arXiv AI· Xilong Wang, Xiaoxing Chen, Neil Gong·· 3 天前评分38
Securing Multi-Agent Systems by Design
摘要
多智能体系统通过将复杂任务分解为子任务,将子任务委托给智能体,并使用聚合规则汇总智能体的响应。恶意智能体可通过提供恶意响应来操纵最终解决方案。本文首先提出响应操纵攻击(ReMA),该攻击通过迭代优化恶意响应以最大化攻击效果。
推荐理由
请对照arXiv AI原文,核对完整说明及适用条件。
本站只提供摘要与原文入口。完整内容请阅读原文。
来源:arXiv AI · arxiv.org