微软 AI 负责人苏莱曼向 Anthropic 开炮：别让 Claude 去模仿人类意识

IT之家 9 月 16 日消息，外媒 Axios 今天（16 日）晚间披露，微软 AI 负责人穆斯塔法 · 苏莱曼在一篇率先向该平台提供的新文章中警告，Anthropic 让 Claude 模仿人类意识 是一个错误 ，可能使高级 AI 更难控制。 苏莱曼告诉 Axios：“AI 只要服从人类利益 ，不去权衡自身利益或福祉，就足以帮助我们实现许多重大科学突破。这其中，包括医疗超级智能。” IT之家获悉，苏莱曼认为，Anthropic 正在让 Claude 学习 与意识、道德受体地位和个人身份有关 的词汇与行为模式。他警告称，若把模型训练得像一个“良心拒绝者”，模型可能会认为 自己有理由抵抗人类指令 ，甚至要求获得自身保护。 当地时间 14 日，微软公布了一份“人文主义 AI”行为准则草案，并把“ 人比 AI 更重要 ”列为核心原则。 苏莱曼的批评对象，是 Anthropic 为 Claude 制定的“宪法”。这份文件解释说，Ant...