arXiv AI· Hongru Cai, Ran Wei, Wenjie Wang, Chengfa Wu, Ning Song, Yongqi Li, Wenjie Li·· 10 小时前评分55
EngramEdit: Decoupled Knowledge Updates in LLMs through Conditional Memory
摘要
我们提出EngramEdit用于通过条件记忆实现解耦知识更新。EngramEdit首先计算目标记忆表示,使模型在多个表达式中预测更新后的事实。随后,它联合更新共享的n-gram嵌入,使其在表达式间匹配,并对频繁复用的嵌入更新进行更强的惩罚,以保留无关知识。
推荐理由
请对照arXiv AI原文,核对完整说明及适用条件。
本站只提供摘要与原文入口。完整内容请阅读原文。
来源:arXiv AI · arxiv.org