2026-10-21 03:25
最后更新于2026-10-28 16:00
AI123

NVIDIA发布生成式AI手术模拟器Cosmos3-H-Dreams,基于临床胆囊切除术录像训练

NVIDIA于2026年10月21日发布Cosmos3-H-Dreams,称其为首个基于临床胆囊切除术录像训练的生成式手术模拟器,支持实时运动控制。该模拟器由Cosmos 3驱动,并借助FlashDreams加速推理库,可在单个NVIDIA RTX PRO 6000 GPU上交互运行。

与上一代基于Cosmos-Predict2.5、面向dVRK桌面缝合场景的Cosmos-H-Dreams不同,Cosmos3-H-Dreams从CMR Surgical Versius平台的临床手术录像与机器人运动学数据中学习视觉动力学,而非显式建模几何、组织形变与物理交互。模型基于160亿参数的Cosmos3-H-Embodied-Nano,在Open-H-Embodiment上预训练,后在精选胆囊切除视频与运动学数据上微调,包含28个动作维度,训练采用832×480分辨率视频和10Hz对齐动作。

针对长序列交互生成,NVIDIA采用教师-学生蒸馏流程,先后训练四步与两步去噪检查点,并集成FlashDreams流式推理与FadeMem缓存整合机制,以降低长程生成中的动作延迟与上下文开销。NVIDIA演示显示,模型能基于同一初始帧、不同动作序列生成不同走向的手术场景,并保持组织形变与器械外观一致。

NVIDIA表示,该模拟器可用于探索训练数据之外的轨迹,并提供了模型、代码与微调教程,支持适配其他数据集和控制器。Cosmos3-H-Dreams目前是研究型模拟器,并非经过验证的患者诊疗系统。

来源
  1. 2026-10-21 14:48 | 华尔街见闻:英伟达推出临床手术AI模拟器,基于真实手术录像训练而成
    阅读原文

    英伟达将生成式AI引入手术室场景,推出全球首款基于真实胆囊切除术录像训练的实时交互手术模拟器,标志着外科机器人仿真研究迈入临床级视觉环境。 英伟达于10月20日发布Cosmos3-H-Dreams,该系统从CMR Surgical Versius平台的临床手术录像中学习视觉动态,能够根据器械操控指令实时生成新的手术场景续帧,而非简单回放已有手术录像。系统可在单块RTX PRO 6000 GPU上交互式运行。 英伟达明确表示,Cosmos3-H-Dreams是一款研究型模拟器,尚未经过患者护理验证,不适用于临床诊疗。视觉真实感并不等同于生物力学准确性,系统当前仅覆盖特定术式和器械组合,距离临床应...

  2. 2026-10-21 02:17 | Huggingface:NVIDIA Cosmos3-H-Dreams: Bringing Clinical Surgery to Life Through Generative Simulation
    阅读原文

    Picture moving the Cadiere grasper, grasping the gallbladder, and lifting it, all within a generated surgical scene that responds in real time. Today, we take the next step and introduce Cosmos3-H-Dreams, bringing interactive generative simulation to the visual and procedural complexity of clinical ...

其他新闻

查看全部