英伟达发布 1200 亿参数大模型 Nemotron 3.5 Super VL:单 GPU 智能体任务吞吐量最高提升 5 倍,74B 版本压缩至 24GB
IT之家 10 月 15 日消息,英伟达宣布推出开放多模态模型 Nemotron 3.5 Super VL,面向需要持续运行、执行多步骤任务的 AI 智能体。 该模型采用混合专家(MoE)架构,总参数量为 1200 亿,激活参数 120 亿。英伟达称,在单张 GPU 上执行智能体任务时,该模型的吞吐量最高可达到同规模其他开放模型的 5 倍。 据介绍,Nemotron 3.5 Super VL 将推理、指令遵循和工具调用能力,与文本、图像、文档及视频理解能力整合到同一个模型中,可用于代码测试与调试、跨网站信息检索、文档分析、网络安全威胁识别以及视频内容检索等场景。开发者可以利用英伟达 NeMo 工具链,结合自有数据、工具、政策和工作流程进行后训练,并根据业务需求调整模型行为。 英伟达同时公布了多个企业定制案例。例如,AI 数据技术提供商 Scale AI 为媒体娱乐公司 Skydance Corporation 定制了供应商信用处...
来自IT之家 AI的《英伟达发布 1200 亿参数大模型 Nemotron 3.5 Super VL:单 GPU 智能体任务吞吐量最高提升 5 倍,74B 版本压缩至 24GB》。重点看智能体工作流、模型能力与工程、产品发布。摘要提到:IT之家 10 月 15 日消息,英伟达宣布推出开放多模态模型 Nemotron 3.5 Super VL,面向需要持续运行、执行多步骤任务的 AI 智能体。 该模型采用混合专家(MoE)架构,总参数量为 1200 亿,激活参数 120 亿。英伟达称,在单张 GPU 上执行智能体任务时,该模型的吞吐量最高可达到同规模其他开放模型的 5 倍。 据介绍,Nemotron 3.5 Super VL 将推理、指令遵循和工具调用能力,与文本、图像、文档及视频理解能力整合到同一个模型中,可用于代码测试与调试、跨网站信息检索、文档分析、网络安全威胁识别以及视频内容检索等场景。开发者可以利用英伟达 NeMo 工具链,结合自有数据、工具、政策和工作流程进行后训练,并根据业务需求调整模型行为。 英伟达同时公布了多个企业定制案例。例如,AI 数据技术提供商 Scale AI 为媒体娱乐公司 Skydance Corporation 定制了供应商信用处...
本站只提供摘要与原文入口。完整内容请阅读原文。
来源:IT之家 AI · ithome.com