警告“AI 或灭绝人类”的前 Anthropic 研究员：某种意义上，我曾研究让 AI 取代自己
IT之家 10 月 8 日消息，据《商业内幕》报道，曾在 Anthropic 和 OpenAI 任职的研究员雅各布 · 考克森警告，AI 很快就能自主开展研究，人类可能完全无法掌控此后的发展。 27 岁的考克森曾在 Anthropic 从事模型能力研究，上个月公开宣布辞职。当地时间 5 日，他向纽约市议员发出警告，称 AI 可能威胁人类生存。 考克森在纽约市议会有关 AI 风险的听证会上作证称，顶尖前沿 AI 实验室的首要目标， 是让 AI 研究实现自动化 。“我在上一份工作中，某种意义上就是在研究 怎么让 AI 取代自己 。我在 OpenAI 时，我们为自动化 AI 研究员设定了 2027 年、2028 年前后的阶段性目标，研发进度符合预期，甚至超过预期。距离那个时候只有几个月，不是几十年，连五年都不是。” 一旦 AI 能自行开展研究，人类参与和干预研究的程度会比今天低得多，而今天的情况就不太理想。以他的亲身经历来看，大部分代...
来自IT之家 AI的《警告“AI 或灭绝人类”的前 Anthropic 研究员：某种意义上，我曾研究让 AI 取代自己》。重点看模型能力与工程。摘要提到：IT之家 10 月 8 日消息，据《商业内幕》报道，曾在 Anthropic 和 OpenAI 任职的研究员雅各布 · 考克森警告，AI 很快就能自主开展研究，人类可能完全无法掌控此后的发展。 27 岁的考克森曾在 Anthropic 从事模型能力研究，上个月公开宣布辞职。当地时间 5 日，他向纽约市议员发出警告，称 AI 可能威胁人类生存。 考克森在纽约市议会有关 AI 风险的听证会上作证称，顶尖前沿 AI 实验室的首要目标， 是让 AI 研究实现自动化 。“我在上一份工作中，某种意义上就是在研究 怎么让 AI 取代自己 。我在 OpenAI 时，我们为自动化 AI 研究员设定了 2027 年、2028 年前后的阶段性目标，研发进度符合预期，甚至超过预期。距离那个时候只有几个月，不是几十年，连五年都不是。” 一旦 AI 能自行开展研究，人类参与和干预研究的程度会比今天低得多，而今天的情况就不太理想。以他的亲身经历来看，大部分代...
本站只提供摘要与原文入口。完整内容请阅读原文。
来源：IT之家 AI · ithome.com