Apple Machine Learning Research·· 1 天前精选评分86
Self-Compacting Language Model Agents
摘要
长代理轨迹由思维链和工具调用组成，积累过时内容，成为后续生成的锚点，最终超出上下文窗口。现有框架通过固定间隔压缩缓解此问题，触发条件基于令牌阈值。此类触发不关注轨迹结构，可能在推理或搜索中丢弃部分结果。我们提出SELFCOMPACT，一种框架，允许模型自身决定何时及如何压缩。具体而言，它结合两个推理元素：（i）模型调用的压缩工具，用于总结积累内容……
推荐理由
请对照Apple Machine Learning Research原文，核对完整说明及适用条件。
本站只提供摘要与原文入口。完整内容请阅读原文。
来源：Apple Machine Learning Research · machinelearning.apple.com