跳到正文
arXiv AI· Awni Altabaa, John Lafferty, Omar Montasser·· 2 天前评分54

Optimal Autoregressive Chain-of-Thought Learning via Bagging

摘要

我们提出一种基于袋外法的简单算法,其输出的是对训练数据的bootstrap样本进行训练的生成器的多数投票结果。对于二元token集,它在样本复杂度上达到最优,为$O((d_{ ext{VC}}+ rac{ ext{1}}{oldsymbol{ ext{δ}}})/oldsymbol{ ext{ε}})$,与CoT长度T无关,其中$d_{ ext{VC}}$是函数$oldsymbol{ ext{F}}$的VC维数。对于有限token集Σ,VC维数被替换为多类仿射,即图维数$d_{ ext{G}}$,样本复杂度在$oldsymbol{ ext{log}|Σ|}$因子下仍保持最优。

推荐理由

请对照arXiv AI原文,核对完整说明及适用条件。

本站只提供摘要与原文入口。完整内容请阅读原文。

来源:arXiv AI · arxiv.org