DoubtLess: Training-Free Contrastive Decoding for Efficient Reasoning

我们提出DoubtLess，一种无需训练的解码方法，其中较小的推理模型引导较大的模型向简洁方向发展。小模型读取大模型的CoT两次，第一次提示简洁（简洁思考者），第二次提示详细（详细思考者），两者的logit向量之差经缩放后添加到CoT的每一步中。在七项竞赛数学、研究生科学和编程竞赛基准上，DoubtLess使Qwen3-32B的CoT长度减少31%，精度保持不变，优于五种推理时间基准方法。