arXiv AI· Minhae Oh, Jeonghye Kim, Jinwoo Koo, Yeongoon Kim, Jimin Seo, Minsik Seol, Jungwoo Lee·· 14 小时前评分58
Learning When Diffusion Language Models Should Regenerate
摘要
重标记使扩散语言模型能够重新审视生成文本,但有效修正需要知道何时及何内容需要修改。在 Sudoku 的诊断中发现两个缺口。隐藏状态包含错误信息,而 token 信心无法可靠地暴露出来,且单独修复一个错误通常在周围上下文保持不变时会重现。
推荐理由
请对照arXiv AI原文,核对完整说明及适用条件。
本站只提供摘要与原文入口。完整内容请阅读原文。
来源:arXiv AI · arxiv.org