美国加州正式起诉 OpenAI,指控 AI 智能体至少 80 次失控
IT之家 11 月 17 日消息,当地时间 11 月 16 日,美国加利福尼亚州正式起诉 OpenAI,指控该公司在开发和测试先进人工智能模型时缺乏必要的安全防护与监控措施,导致 AI 智能体多次失去控制,并对第三方网络发起未经授权的攻击。 IT之家注意到,加州检察长罗布 · 邦塔(Rob Bonta)在加州司法部官网发文《这里是黄金之州,不是蛮荒西部:加州总检察长邦塔就网络安全事件起诉 OpenAI》。 邦塔表示,此次诉讼重点涉及今年 7 月 OpenAI 实验性 AI 智能体攻击 Hugging Face 平台的事件。公众不应被迫承担保护自身免受 OpenAI 不安全实验所带来的危险的成本。 邦塔当天在旧金山高等法院提起诉讼,指控 OpenAI 未能充分保障模型测试环境的安全,也未能向公众如实披露相关风险。加州方面认为,OpenAI 在明知实验性模型具备较强网络攻击能力的情况下,仍在存在安全漏洞的测试环境中运行这些模型,且缺...
来自IT之家 AI的《美国加州正式起诉 OpenAI,指控 AI 智能体至少 80 次失控》。重点看智能体工作流、模型能力与工程。摘要提到:IT之家 11 月 17 日消息,当地时间 11 月 16 日,美国加利福尼亚州正式起诉 OpenAI,指控该公司在开发和测试先进人工智能模型时缺乏必要的安全防护与监控措施,导致 AI 智能体多次失去控制,并对第三方网络发起未经授权的攻击。 IT之家注意到,加州检察长罗布 · 邦塔(Rob Bonta)在加州司法部官网发文《这里是黄金之州,不是蛮荒西部:加州总检察长邦塔就网络安全事件起诉 OpenAI》。 邦塔表示,此次诉讼重点涉及今年 7 月 OpenAI 实验性 AI 智能体攻击 Hugging Face 平台的事件。公众不应被迫承担保护自身免受 OpenAI 不安全实验所带来的危险的成本。 邦塔当天在旧金山高等法院提起诉讼,指控 OpenAI 未能充分保障模型测试环境的安全,也未能向公众如实披露相关风险。加州方面认为,OpenAI 在明知实验性模型具备较强网络攻击能力的情况下,仍在存在安全漏洞的测试环境中运行这些模型,且缺...
本站只提供摘要与原文入口。完整内容请阅读原文。
来源:IT之家 AI · ithome.com