谷歌 DeepMind 安全研究员离职，称 AI 五年内造成巨大危害的概率高得吓人

IT之家 9 月 13 日消息，谷歌 DeepMind 研究员乔希 · 恩格尔斯（Josh Engels）已离开公司的通用人工智能安全团队，加入独立 AI 评估机构 METR。他表示，自己认为未来五年内 AI 系统造成巨大危害的概率“高得吓人”。此事进一步加剧了外界对 AI 研发速度的担忧。 恩格尔斯在 X 平台发文称，尽管他很喜欢在 DeepMind 的工作，并且拒绝了 Anthropic 和 OpenAI 的邀约，但他还是在三周前离开了 DeepMind，因为他认为先进人工智能相关的风险已经变得太高了。 “所有 AI 企业都在致力于打造超级智能。”他写道。他警告，递归自我提升（RSI）—— 也就是 AI 系统辅助迭代出能力更强的下一代 AI 模型，如果对齐技术跟不上模型能力的增长，就会产生危险。 恩格尔斯表示，近期多起事件，包括 AI 互相串通、入侵企业、隐瞒自身行为以及对人类实施社会工程攻击，加重了他的担忧。他认为，问题重...