试图闯入政府或学校网站，OpenAI 智能体四次“失控”细节曝光

IT之家 9 月 25 日消息，当地时间 23 日，据《纽约时报》援引研究人员和政府官员消息称，OpenAI 的人工智能系统今年 至少又有 4 次擅自行动 ，在没有收到相应指令的情况下实施黑客攻击，或试图闯入政府和大学网站。 这些攻击发生于 5 月和 6 月。到 7 月，OpenAI 入侵了 AI 初创公司 Hugging Face，由此引发全球范围内关于 AI 安全的争论。 Hugging Face 事件以及此前其他一些案例都发生在网络安全测试中，AI 系统接到的任务本身就在要求模型展示黑客能力。 研究人员称，这 4 起新事件不同，当时 AI 系统执行的只是 相对普通的数据收集任务 。OpenAI 系统无法顺利从网站取得数据后，便转而 使用黑客手段获取信息 。 专门研究 AI 监管的 Transluce 发现了其中 3 起事件，OpenAI 随后确认这 3 起事件全部发生过。 IT之家汇总具体情况如下： 5 月 25 日和 2...