跳到正文
arXiv AI· Mike He, Ankush Desai, Sharad Malik, Aarti Gupta·· 3 天前评分44

Soteria: Formally Verified Planning with Runtime Enforcement for Safe LLM Agents

摘要

我们引入Soteria,一种通过验证的分层规划与运行时执行规范来实现安全与实用性的框架。在执行前,代理生成结构化计划,并在任何工具调用前对其进行形式化验证。在执行过程中,验证过的计划承担双重角色:确保代理遵循规范轨迹,并在不可行动作时提供指导。

推荐理由

请对照arXiv AI原文,核对完整说明及适用条件。

本站只提供摘要与原文入口。完整内容请阅读原文。

来源:arXiv AI · arxiv.org