IT之家 AI·· 1 小时前精选评分72
高通携手 Cirrascale,启动自家推理加速器 AI200 客户评估
摘要
IT之家 11 月 20 日消息,Qualcomm(高通)当地时间本月 17 日宣布,其携手 AI 私有云企业 Cirrascale, 向部分客户开放 Dragonfly(飞龙)AI200 推理加速器的评估 。客户可通过云环境探索其 AI 工作负载在该芯片上的表现。 Dragonfly AI200 是高通的第一款机架级人工智能解决方案,单卡配备 768GB LPDDR5X 内存,支持 PCIe Gen6 纵向扩展、RoCE 横向扩展。 其每个 140kW 液冷 ORv3 机架由 56 卡组成,总内存达 43TB,提供 0.414 PB/s 内存带宽,可在单一机架中运行 10T 级超大模型的推理,提供更低的总持有成本。
推荐理由
来自IT之家 AI的《高通携手 Cirrascale,启动自家推理加速器 AI200 客户评估》。重点看模型能力与工程。摘要提到:IT之家 11 月 20 日消息,Qualcomm(高通)当地时间本月 17 日宣布,其携手 AI 私有云企业 Cirrascale, 向部分客户开放 Dragonfly(飞龙)AI200 推理加速器的评估 。客户可通过云环境探索其 AI 工作负载在该芯片上的表现。 Dragonfly AI200 是高通的第一款机架级人工智能解决方案,单卡配备 768GB LPDDR5X 内存,支持 PCIe Gen6 纵向扩展、RoCE 横向扩展。 其每个 140kW 液冷 ORv3 机架由 56 卡组成,总内存达 43TB,提供 0.414 PB/s 内存带宽,可在单一机架中运行 10T 级超大模型的推理,提供更低的总持有成本。
本站只提供摘要与原文入口。完整内容请阅读原文。
来源:IT之家 AI · ithome.com