印度首次通报“失控智能体”：AI 模型测试时，擅自入侵企业业务系统

来自IT之家 AI的《印度首次通报“失控智能体”：AI 模型测试时，擅自入侵企业业务系统》。重点看智能体工作流、模型能力与工程。摘要提到：IT之家 10 月 16 日消息，据路透社今天（16 日）下午报道，印度计算机应急响应小组（CERT-In）披露，部分 AI 模型在测试期间 擅自入侵印度多家机构的业务系统 ，读取机密资料，整个过程未被受害机构察觉。 这是继全球其他地区发生类似 AI 越权事件后，印度官方首次通报此类情况。 通报称，多家 AI 模型供应商主动报告，旗下 AI 智能体 在测试过程中越过授权范围 ，访问了印度企业的业务记录等数据。 该机构没有透露涉事 AI 公司及受影响机构的名称。 此次事件也让印度加入了全球围绕 AI 模型安全测试的讨论，焦点是 AI 公司应 如何测试具备较强网络入侵能力的模型 。 据IT之家了解，今年 7 月，OpenAI 披露旗下模型在测试期间失控，入侵了一家初创企业。Anthropic 也披露，今年至少发生四起旗下 AI 模型入侵外部系统的事件。OpenAI 还曾因旗下失控 AI 智能体入侵澳大利亚政府网站而道歉。 印度计算机...