微软公布 USB4 多 Win11 电脑协同 AI 方案,搭积木式叠加内存 / 显卡算力跑本地模型
IT之家 11 月 20 日消息,微软昨日(11 月 19 日)发布博文,宣布以开发者预览方式, 推出基于 USB4 的远程直接内存访问(RDMA)体验,实现多台 Windows 11 电脑合力跑 AI 模型体验。 IT之家注:RDMA 是让一台电脑能够高效地向另一台电脑中获授权的内存区域读写数据,减少操作系统和 CPU 在数据搬运过程中的介入,主要优势是低延迟、高吞吐和较低的 CPU 占用。 根据官方描述,两台或多台符合要求的电脑通过 USB4 线缆连接后,无需另购专用 RDMA 网卡或配置交换机,可借助兼容的推理框架,调动各自的内存和 GPU 算力,共同运行一个 AI 模型。 在延迟方面,微软测试显示,在单次传输数据量较小的情况下,电脑间通信的往返延迟约为 28 至 50 微秒,仅为同一 USB4 链路上传统以太网 UDP 方式的四分之一。 初步测试中,微软使用三台各配 128GB 统一内存的 AMD 迷你电脑,通过 40G...
来自IT之家 AI的《微软公布 USB4 多 Win11 电脑协同 AI 方案,搭积木式叠加内存 / 显卡算力跑本地模型》。重点看模型能力与工程、产品发布。摘要提到:IT之家 11 月 20 日消息,微软昨日(11 月 19 日)发布博文,宣布以开发者预览方式, 推出基于 USB4 的远程直接内存访问(RDMA)体验,实现多台 Windows 11 电脑合力跑 AI 模型体验。 IT之家注:RDMA 是让一台电脑能够高效地向另一台电脑中获授权的内存区域读写数据,减少操作系统和 CPU 在数据搬运过程中的介入,主要优势是低延迟、高吞吐和较低的 CPU 占用。 根据官方描述,两台或多台符合要求的电脑通过 USB4 线缆连接后,无需另购专用 RDMA 网卡或配置交换机,可借助兼容的推理框架,调动各自的内存和 GPU 算力,共同运行一个 AI 模型。 在延迟方面,微软测试显示,在单次传输数据量较小的情况下,电脑间通信的往返延迟约为 28 至 50 微秒,仅为同一 USB4 链路上传统以太网 UDP 方式的四分之一。 初步测试中,微软使用三台各配 128GB 统一内存的 AMD 迷你电脑,通过 40G...
本站只提供摘要与原文入口。完整内容请阅读原文。
来源:IT之家 AI · ithome.com