跳到正文
IT之家 AI·· 1 小时前精选评分72

GitHub Copilot 不再纯云端 AI 模型:Surface Laptop Ultra 本地推理吞吐量最高每秒 63 词元

摘要

IT之家 10 月 8 日消息,太平洋时间 10 月 7 日上午 10 点(北京时间 10 月 8 日凌晨 1 点)在美国旧金山举办的发布会中,微软宣布 GitHub Copilot 将在本月底前支持本地 AI 模型推理, 开发者可在云端模型与设备端模型之间自动或手动切换。 GitHub Copilot 是微软推出的 AI 编程助手,可集成于 Visual Studio Code、CLI 等工具,根据代码上下文生成补全、解释或重构建议。 GitHub Copilot 目前依赖云端托管模型,由协调器根据性能、成本与准确性路由请求。微软计划在本月底扩展该机制,允许 Copilot 自动选择云端模型与本地 AI 模型,后台协调推理任务。 微软为 GitHub Copilot 用户提供两种模式:自动编排或强制使用设备端模型。用户可在 GitHub Copilot CLI、Copilot 应用与 Visual Studio Code 中设...

推荐理由

来自IT之家 AI的《GitHub Copilot 不再纯云端 AI 模型:Surface Laptop Ultra 本地推理吞吐量最高每秒 63 词元》。重点看模型能力与工程、开源生态、产品发布。摘要提到:IT之家 10 月 8 日消息,太平洋时间 10 月 7 日上午 10 点(北京时间 10 月 8 日凌晨 1 点)在美国旧金山举办的发布会中,微软宣布 GitHub Copilot 将在本月底前支持本地 AI 模型推理, 开发者可在云端模型与设备端模型之间自动或手动切换。 GitHub Copilot 是微软推出的 AI 编程助手,可集成于 Visual Studio Code、CLI 等工具,根据代码上下文生成补全、解释或重构建议。 GitHub Copilot 目前依赖云端托管模型,由协调器根据性能、成本与准确性路由请求。微软计划在本月底扩展该机制,允许 Copilot 自动选择云端模型与本地 AI 模型,后台协调推理任务。 微软为 GitHub Copilot 用户提供两种模式:自动编排或强制使用设备端模型。用户可在 GitHub Copilot CLI、Copilot 应用与 Visual Studio Code 中设...

本站只提供摘要与原文入口。完整内容请阅读原文。

来源:IT之家 AI · ithome.com