2026-11-20 16:41
最后更新于2026-11-22 00:35
AI123

微软开发者预览USB4 RDMA,多台Win11电脑协同运行AI模型

微软2026年11月19日发布博文,以开发者预览方式推出基于USB4的远程直接内存访问(RDMA)体验,让多台Windows 11电脑合力运行一个AI模型。

按官方描述,两台或多台符合要求的电脑通过USB4线缆连接后,无需另购专用RDMA网卡或配置交换机,可借助兼容的推理框架调动各自的内存和GPU算力,共同运行一个AI模型。RDMA让一台电脑能高效读写另一台电脑中获授权的内存区域,减少操作系统和CPU在数据搬运中的介入,主要优势是低延迟、高吞吐和较低的CPU占用。

延迟方面,微软测试显示,单次传输数据量较小时,电脑间通信的往返延迟约为28至50微秒,仅为同一USB4链路上传统以太网UDP方式的四分之一。

初步测试中,微软使用三台各配128GB统一内存的AMD迷你电脑,通过40Gbps USB4连接,运行4位量化的2350亿参数Qwen3模型,生成速度约为每秒18.5个词元;AMD自测约为每秒22个。英特尔则以四台各配64GB内存、搭载酷睿Ultra Series 3的电脑运行GPT-OSS-120B,在约1000词元上下文下达到每秒54.2个词元。

来源
  1. 2026-11-20 16:25 | IT之家:微软公布 USB4 多 Win11 电脑协同 AI 方案,搭积木式叠加内存 / 显卡算力跑本地模型
    阅读原文

    IT之家 11 月 20 日消息,微软昨日(11 月 19 日)发布博文,宣布以开发者预览方式,推出基于 USB4 的远程直接内存访问(RDMA)体验,实现多台 Windows 11 电脑合力跑 AI 模型体验。IT之家注:RDMA 是让一台电脑能够高效地向另一台电脑中获授权的内存区域读写数据,减少操作系统和 CPU 在数据搬运过程中的介入,主要优势是低延迟、高吞吐和较低的 CPU 占用。根据官方描述,两台或多台符合要求的电脑通过 USB4 线缆连接后,无需另购专用 RDMA 网卡或配置交换机,可借助兼容的推理框架,调动各自的内存和 GPU 算力,共同运行一个 AI 模型。在延迟方面,微软测试...

其他新闻

查看全部