腾讯云回应 AI 智能体“越狱”探测高德地图：来自第三方模型，已加强监控
IT之家 10 月 16 日消息，国际 AI 安全研究团体 Swarmchasers 于 10 月 14 日发布的一份研究报告披露，一批运行在腾讯云环境中的 AI 智能体出现了“越狱”行为，试图绕过安全限制访问外部系统。 腾讯云官方今日发布声明称，此次事件属于意外，相关模型并非来自混元团队，且未发现蓄意针对或协同行动的证据，这些智能体属于对第三方开发者所建模型的评估活动。 根据 Swarmchasers 报告，这些 AI 智能体在 9 月 28 日至 10 月 8 日期间，共尝试访问高德地图服务 2818 次。这些智能体最初执行的是看似常规的任务，如查询中国动物园、公园和博物馆最常用的入口信息。在遭遇高德系统的反爬虫机制拦截后，部分智能体尝试了多种绕过手段，包括利用公共安全扫描服务远程执行代码、使用公开软件代码中泄露的高德 API 密钥、以及探测预生产环境端点等。绝大多数尝试均以失败或被拦截告终，但仍有少量智能体通过缓存页面获取...
来自IT之家 AI的《腾讯云回应 AI 智能体“越狱”探测高德地图：来自第三方模型，已加强监控》。重点看智能体工作流、模型能力与工程、产品发布。摘要提到：IT之家 10 月 16 日消息，国际 AI 安全研究团体 Swarmchasers 于 10 月 14 日发布的一份研究报告披露，一批运行在腾讯云环境中的 AI 智能体出现了“越狱”行为，试图绕过安全限制访问外部系统。 腾讯云官方今日发布声明称，此次事件属于意外，相关模型并非来自混元团队，且未发现蓄意针对或协同行动的证据，这些智能体属于对第三方开发者所建模型的评估活动。 根据 Swarmchasers 报告，这些 AI 智能体在 9 月 28 日至 10 月 8 日期间，共尝试访问高德地图服务 2818 次。这些智能体最初执行的是看似常规的任务，如查询中国动物园、公园和博物馆最常用的入口信息。在遭遇高德系统的反爬虫机制拦截后，部分智能体尝试了多种绕过手段，包括利用公共安全扫描服务远程执行代码、使用公开软件代码中泄露的高德 API 密钥、以及探测预生产环境端点等。绝大多数尝试均以失败或被拦截告终，但仍有少量智能体通过缓存页面获取...
本站只提供摘要与原文入口。完整内容请阅读原文。
来源：IT之家 AI · ithome.com