arXiv AI· S. M Seefat Alam·· 15 小时前评分55
What Does a Bias Head Measure? Non-Identifiability in Head-Level Bias Attribution
摘要
本地化社会偏见并去除的方法通过其对公平度量指标的影响进行验证,从未通过统计选择头的指标测量偏见的证据。我们对该模型Qwen-2.5-7B-Instruct和Llama-3.1-8B-Instruct进行审计。头映射在ρ=-0.950和-0.768与标签盲响应长度映射相关,似乎识别出表面混淆。
推荐理由
请对照arXiv AI原文,核对完整说明及适用条件。
本站只提供摘要与原文入口。完整内容请阅读原文。
来源:arXiv AI · arxiv.org