原 OpenAI 安全负责人戴维 · 罗宾逊“炮轰”老东家：对待 AI 安全说一套做一套
IT之家 10 月 8 日消息，据《商业内幕》今天（8 日）凌晨报道，上周从 OpenAI 离职的安全系统团队前负责人之一戴维 · 罗宾逊认为，公司在 AI 安全问题上存在明显的言行不一。 罗宾逊表示， OpenAI 一边反复警告新模型能力增强可能带来的风险，一边公开谈论放慢 AI 开发速度 ，公司内部却仍在全速推进。“真正让我感到矛盾的是，我们不断发布这些警告，最后却还是在训练和部署那些被我们自己警告存在危险的模型。” 今年 7 月，数百名 OpenAI 员工签署了一封公开信， 呼吁政府出台监管措施 ，为 AI 开发降速。 此前，Anthropic CEO 阿莫迪呼吁 AI 公司自行协调，共同放慢开发速度。今年 9 月，OpenAI CEO 奥尔特曼对此表示赞同。“我们需要控制前沿 AI 的发展节奏。过去几周，这一直是 OpenAI 内部讨论的主要议题之一。” 罗宾逊说，OpenAI 办公室里却仍是一片高速运转的状态，不少人几...
来自IT之家 AI的《原 OpenAI 安全负责人戴维 · 罗宾逊“炮轰”老东家：对待 AI 安全说一套做一套》。重点看模型能力与工程、产品发布。摘要提到：IT之家 10 月 8 日消息，据《商业内幕》今天（8 日）凌晨报道，上周从 OpenAI 离职的安全系统团队前负责人之一戴维 · 罗宾逊认为，公司在 AI 安全问题上存在明显的言行不一。 罗宾逊表示， OpenAI 一边反复警告新模型能力增强可能带来的风险，一边公开谈论放慢 AI 开发速度 ，公司内部却仍在全速推进。“真正让我感到矛盾的是，我们不断发布这些警告，最后却还是在训练和部署那些被我们自己警告存在危险的模型。” 今年 7 月，数百名 OpenAI 员工签署了一封公开信， 呼吁政府出台监管措施 ，为 AI 开发降速。 此前，Anthropic CEO 阿莫迪呼吁 AI 公司自行协调，共同放慢开发速度。今年 9 月，OpenAI CEO 奥尔特曼对此表示赞同。“我们需要控制前沿 AI 的发展节奏。过去几周，这一直是 OpenAI 内部讨论的主要议题之一。” 罗宾逊说，OpenAI 办公室里却仍是一片高速运转的状态，不少人几...
本站只提供摘要与原文入口。完整内容请阅读原文。
来源：IT之家 AI · ithome.com