跳到正文
arXiv AI· Xilong Wang, Xiaoxing Chen, Neil Gong·· 3 天前评分38

Securing Multi-Agent Systems by Design

摘要

多智能体系统通过将复杂任务分解为子任务,将子任务委托给智能体,并使用聚合规则汇总智能体的响应。恶意智能体可通过提供恶意响应来操纵最终解决方案。本文首先提出响应操纵攻击(ReMA),该攻击通过迭代优化恶意响应以最大化攻击效果。

推荐理由

请对照arXiv AI原文,核对完整说明及适用条件。

本站只提供摘要与原文入口。完整内容请阅读原文。

来源:arXiv AI · arxiv.org