跳到正文
IT之家 AI·· 2 小时前精选评分80

阶跃星辰开源 Step 5 Preview 权重,华为昇腾、沐曦、壁仞等首发支持

摘要

IT之家 10 月 15 日消息,阶跃星辰今日宣布正式开放 Step 5 Preview 模型权重,包含 BF16 与 FP8 两个版本,在 AI 编程、软件工程、专业知识工作、金融等任务上达到前沿水平。 模型权重已上线 Hugging Face 和 ModelScope,开发者可通过 vLLM 或 SGLang 部署兼容 OpenAI 接口的 API 服务,也可使用 Transformers 进行离线推理。 随后,华为、壁仞科技、沐曦股份、摩尔线程官方发文,宣布提供 0Day 支持。 据华为介绍,此次 Step 5 Preview 一经开源发布,昇腾就基于 vLLM 推理引擎实现了 0Day 支持,并围绕模型架构与硬件特性实现了高效推理优化。 10 月 15 日,首套 1024 卡 Atlas 950 SuperPoD 液冷超节点随着 Step 5 Preview 的开源同步上线点亮,性能持平海外先进算力。 据介绍,昇腾 At...

推荐理由

来自IT之家 AI的《阶跃星辰开源 Step 5 Preview 权重,华为昇腾、沐曦、壁仞等首发支持》。重点看模型能力与工程、开源生态、产品发布。摘要提到:IT之家 10 月 15 日消息,阶跃星辰今日宣布正式开放 Step 5 Preview 模型权重,包含 BF16 与 FP8 两个版本,在 AI 编程、软件工程、专业知识工作、金融等任务上达到前沿水平。 模型权重已上线 Hugging Face 和 ModelScope,开发者可通过 vLLM 或 SGLang 部署兼容 OpenAI 接口的 API 服务,也可使用 Transformers 进行离线推理。 随后,华为、壁仞科技、沐曦股份、摩尔线程官方发文,宣布提供 0Day 支持。 据华为介绍,此次 Step 5 Preview 一经开源发布,昇腾就基于 vLLM 推理引擎实现了 0Day 支持,并围绕模型架构与硬件特性实现了高效推理优化。 10 月 15 日,首套 1024 卡 Atlas 950 SuperPoD 液冷超节点随着 Step 5 Preview 的开源同步上线点亮,性能持平海外先进算力。 据介绍,昇腾 At...

本站只提供摘要与原文入口。完整内容请阅读原文。

来源:IT之家 AI · ithome.com