MAGIC: Modality-Aware Gini Inspection for Clinical Hallucination Detection in LMMs

近年来，医疗多模态模型（LMMs）的最新进展为临床决策支持带来了积极成果，但生成自信但未经证实的输出（即幻觉）却对高风险医疗场景下的可靠性构成严重威胁。现有幻觉检测方法，主要针对单模态场景设计，无法捕捉医疗成像中特有的视觉-语言动态。我们提出在回答token生成过程中，注意力权重在模态间的分布不均是幻觉产生的关键因素。