跳到正文
IT之家 AI·· 20 小时前评分72

商汤发布 SenseNova Loop-9B 模型:部署显存需求低至 10 GB 内

摘要

IT之家 11 月 17 日消息,商汤科技今天(17 日)晚间正式发布 SenseNova Loop-9B 模型。 该模型 延续了 Preview 版本对参数效率的探索 :通过 Loop 结构复用模型层的参数,并结合流形约束超连接(mHC),在约 9B 参数规模下扩展计算深度,面向复杂推理、代码、工具调用和多模态任务。 模型得益于 Loop 的高效循环结构, 官方 4bit 量化后权重仅约 4.9GB ,部署显存需求低至 10 GB 内,能显著拓宽可部署的硬件范围, 让低显存芯片获得前沿 27B 级别模型性能成为可能 。 SenseNova Loop-9B 总参数量约为 9B。模型通过两次执行共享的中间层,将 32 个物理解码层扩展为 56 次层计算;支持文本、图像输入和文本输出, 上下文长度最高可达 512K tokens 。 官方表示,在 Agent 与数据分析评测中,模型展现出与 Qwen3.8-27B 相当的竞争力:NL...

推荐理由

来自IT之家 AI的《商汤发布 SenseNova Loop-9B 模型:部署显存需求低至 10 GB 内》。重点看智能体工作流、模型能力与工程、评测与基准。摘要提到:IT之家 11 月 17 日消息,商汤科技今天(17 日)晚间正式发布 SenseNova Loop-9B 模型。 该模型 延续了 Preview 版本对参数效率的探索 :通过 Loop 结构复用模型层的参数,并结合流形约束超连接(mHC),在约 9B 参数规模下扩展计算深度,面向复杂推理、代码、工具调用和多模态任务。 模型得益于 Loop 的高效循环结构, 官方 4bit 量化后权重仅约 4.9GB ,部署显存需求低至 10 GB 内,能显著拓宽可部署的硬件范围, 让低显存芯片获得前沿 27B 级别模型性能成为可能 。 SenseNova Loop-9B 总参数量约为 9B。模型通过两次执行共享的中间层,将 32 个物理解码层扩展为 56 次层计算;支持文本、图像输入和文本输出, 上下文长度最高可达 512K tokens 。 官方表示,在 Agent 与数据分析评测中,模型展现出与 Qwen3.8-27B 相当的竞争力:NL...

本站只提供摘要与原文入口。完整内容请阅读原文。

来源:IT之家 AI · ithome.com