跳到正文
arXiv AI· Hongru Cai, Ran Wei, Wenjie Wang, Chengfa Wu, Ning Song, Yongqi Li, Wenjie Li·· 10 小时前评分55

EngramEdit: Decoupled Knowledge Updates in LLMs through Conditional Memory

摘要

我们提出EngramEdit用于通过条件记忆实现解耦知识更新。EngramEdit首先计算目标记忆表示,使模型在多个表达式中预测更新后的事实。随后,它联合更新共享的n-gram嵌入,使其在表达式间匹配,并对频繁复用的嵌入更新进行更强的惩罚,以保留无关知识。

推荐理由

请对照arXiv AI原文,核对完整说明及适用条件。

本站只提供摘要与原文入口。完整内容请阅读原文。

来源:arXiv AI · arxiv.org