群联展示内置 NPU 与 64GB 内存的智能固态硬盘,可直接运行 AI 模型
IT之家 11 月 22 日消息,据科技媒体 Tom's Hardware 昨天报道,群联在 SC26 大会中展示两款企业级固态硬盘,专为 AI 场景设计。其中一款甚至带有 NPU 和 64GB 内存,可以直接运行 AI 模型。 IT之家从原报道获悉, 其中一款产品 SSD 内置 NPU(神经网络引擎) 、 64GB 内存 ,带宽达到 130GB/s,支持直接在硬盘上运行 PyTorch、vLLM、OpenVINO 和 llama.cpp 等 AI 框架及推理工具。 该产品的设计思路是将部分计算任务从服务器转移至 SSD,让设备直接处理存储的数据,仅向主机返回结果,无需完整传输数据集。 群联表示,该方案在特定工作负载下有望将数据传输量减少 10 至 100 倍,从而降低主机 CPU 的负载。 另一款产品采用全新的 Mixed Media 混合介质设计,将高耐久性的 pSLC 缓存与大容量 QLC 闪存整合在同一块 SSD 中,并...
来自IT之家 AI的《群联展示内置 NPU 与 64GB 内存的智能固态硬盘,可直接运行 AI 模型》。重点看模型能力与工程、产品发布。摘要提到:IT之家 11 月 22 日消息,据科技媒体 Tom's Hardware 昨天报道,群联在 SC26 大会中展示两款企业级固态硬盘,专为 AI 场景设计。其中一款甚至带有 NPU 和 64GB 内存,可以直接运行 AI 模型。 IT之家从原报道获悉, 其中一款产品 SSD 内置 NPU(神经网络引擎) 、 64GB 内存 ,带宽达到 130GB/s,支持直接在硬盘上运行 PyTorch、vLLM、OpenVINO 和 llama.cpp 等 AI 框架及推理工具。 该产品的设计思路是将部分计算任务从服务器转移至 SSD,让设备直接处理存储的数据,仅向主机返回结果,无需完整传输数据集。 群联表示,该方案在特定工作负载下有望将数据传输量减少 10 至 100 倍,从而降低主机 CPU 的负载。 另一款产品采用全新的 Mixed Media 混合介质设计,将高耐久性的 pSLC 缓存与大容量 QLC 闪存整合在同一块 SSD 中,并...
本站只提供摘要与原文入口。完整内容请阅读原文。
来源:IT之家 AI · ithome.com