跳到正文
arXiv AI· Wang Ma, Debarun Bhattacharjya, Junkyu Lee, Nhan H Pham, Harsha Kokel, Qiang Ji·· 3 天前评分44

Black-Box Uncertainty Quantification for Large Language Models via Ensemble-of-Ensembles

摘要

我们引入一个两层集成模型,填补了这一差距。固定提示的随机解码构成内层集成;提示的语义保真扰动构成外层集成。变异性在连续嵌入空间中测量,总协方差定律提供对测随机性和知识性不确定性(AU/EU)的精确分解,仅需黑盒采样访问。

推荐理由

请对照arXiv AI原文,核对完整说明及适用条件。

本站只提供摘要与原文入口。完整内容请阅读原文。

来源:arXiv AI · arxiv.org