多模态幻觉评测：模型幻觉检测技术

可视化演示

展示MathVista基准测试中多模态数学推理的管线流程，切换不同视觉问题类型查看各维度评测表现。

幻觉定义

侦探手里有一张案发现场的照片，这是“铁证”；证人的口供则是“模型输出”。当模型把图片输入转换成自然语言描述时，它可能说出照片里根本没有的内容——例如照片里只有一只猫，模型却说“画面里有一只猫和一只狗”。我们把这种现象称为多模态幻觉：模型的输出与图像的真实内容不一致，产生了虚假信息。

要检测幻觉，我们需要明确两个角色：一个是被测对象，也就是视觉语言模型（它接收图像和文字指令，生成回答）；另一个是判定依据——图像本身所包含的事实，通常称为 Ground Truth。评测流程就是把模型生成的“证词”拆成一条条可以验证的断言，再逐条与图像事实比对，看哪些断言“查无实据”。

多模态幻觉评测的核心价值在于：它让“模型可不可信”从一个模糊印象变成了一个可比较的数字。不同的模型、不同的提示词、不同的应用场景，都可以用同一把尺子量一量幻觉倾向，从而指导我们选择合适的模型，或者判断当前模型是否具备上线的资格。幻觉率是其中最直观的一把尺子：

回到侦探的视角：幻觉率就是这位证人口供的“失真率”。如果一份口供里十句话有三句对不上照片，侦探就会对该证人的可信度打上大大的问号；同样，一个幻觉率达到 30% 的模型，恐怕也不太适合直接放进医疗或驾驶场景。

幻觉类型

侦探盘问证人时有一套固定的“三连问”：第一问“现场到底有没有这个东西？”；第二问“如果有，它长什么样？”；第三问“它和别的东西是什么位置关系？”这三连问恰好对应三类最典型的多模态幻觉。

第一类是存在性幻觉，也就是“无中生有”。图像里明明没有沙发，模型的描述中却出现了“沙发上放着一个抱枕”；图像里没有行人，模型却说“一个人在过马路”。这类幻觉最基础，也最容易检测——只要拿“物体是否存在于图像中”去比对即可。

第二类是属性幻觉，也就是“张冠李戴”。图像里确实有一只猫，但模型把橘猫说成了黑猫；图像里的汽车是白色，模型说是红色。物体存在，但模型的描述在颜色、大小、材质等属性上偏离了真相。

第三类是关系幻觉，也就是“空间错位”。图像里的猫在桌子下面，模型却说“猫坐在桌子上”；图像里的人是站着的，模型却说“这个人正蹲下来系鞋带”。关系幻觉关注的是多个对象之间的空间、动作或交互关系。

把三类幻觉区分开，意义不仅在于分类学上的整齐，更在于评测问题可以设计得更有针对性。侦探不会用同一个问题去验证所有类型——问“有没有月亮”无法测试模型对“月亮颜色”的判断；只有设计出不同类型的探测问题，才能把模型的幻觉病灶定位到具体维度，也让后续优化有的放矢。

评测方法

侦探不会让证人自由发挥长篇大论，而是拿出一份设计好的询问清单：每个问题都只针对一个明确的断言，答案非对即错，方便与照片对照。这种思路正是探测式提问的核心——评测者构造一系列聚焦的问题（如“图中是否有猫？”“猫的颜色是白色吗？”），让模型作答，然后与图像真值比较。

结合提问方式，评测方法大致分两个流派。判别式评测：给模型出“是非题”或“选择题”，例如问它“图中有没有椅子？”模型回答“有”或“没有”，评测者直接判断对错。生成式评测：让模型自由描述图片内容，然后把描述里的名词（物体候选）和动词/形容词属性逐一和图像中检测到的区域比对，凡是描述中出现但图像中没有对应的，都算作幻觉。

在构造评测数据时，正负样本的搭配非常重要。正样本是“图里确实存在的物体”，负样本是“图里不存在的物体”但可能训练数据中常和当前场景一起出现。侦探必须故意问几个“陷阱问题”，才能测出证人会不会把客厅里常见的沙发脑补到没有沙发的照片里。如果把所有问题都集中在正样本上，模型只需要无脑说“有”就能拿高分，评测就失去了意义。探测准确率是衡量评测问题下模型整体判断能力的基础指标：

回到侦探的视角：一份好问卷不会只问“现场有没有目击者”这种送分题，而是穿插着陷阱题和干扰题，让证人的真实水平暴露无遗。评测方法的设计，本质上就是在为模型“量身定制”这样一套审讯清单，而不是放任它自由发挥。

量化指标

侦探听完证人的全部口供，不能只凭“三句假话”就下结论，而要从两个维度看这份口供的可靠性：说出口的到底准不准，以及该说的到底说全了没有。前者是精确率，后者是召回率。

在幻觉检测中，我们把模型对每个物体的判断分成三种情况：TP 是模型说“图里有这个物体”，图像里确实有；FP 是模型说“图里有”，但图像里根本没有——这正是幻觉的直接来源；FN 是模型说“图里没有”，图像里其实有——模型漏报了。有了 TP、FP、FN 三项，就能算出两个关键分数：

侦探若只看“证人提到的 10 个物体里 9 个是真的”，会忽略他漏掉了照片里一半的关键线索。所以评测报告通常会同时列出精确率、召回率、F1 和幻觉率，让模型的可靠性短板一目了然。

原因剖析

为什么这位“证人”总是忍不住脑补？侦探复盘审讯过程，发现三个干扰源。第一个是数据偏差：证人在过往经历中见过的“客厅”总配有沙发、“马路”总配有红绿灯，这些共现关系根深蒂固，于是在描述一个空客厅时，他下意识说出“沙发旁边有一盏落地灯”——这就是训练数据的统计先验渗透进了模型输出。

第二个是解码偏好：模型在回答时倾向于使用高频、常见的词，因为语言模型本质上是根据概率挑选词。当“月亮”在描述夜景时出现频率极高，模型哪怕没有在图中看到月亮，也可能在“夜色很美”的语境里把它补进句子。这就像证人喜欢把案发现场描述成电视剧里最常见的场景套路。

第三个是注意力失焦：视觉语言模型需要把图像区域与文本词对齐。当模型注意力分散，没有聚焦到图像里真正包含物体的局部区域时，它就只能依赖刚才提到的先验知识“猜”内容，从而制造出幻觉。三个来源中，数据偏差和注意力失焦偏向“感知缺陷”，解码偏好偏向“表达习惯”。侦探只有找到幻觉的源头，才能决定是换一个“证词模板”，还是给证人做“记忆训练”。

经典基准

要把一套评测方法变成行业通用的“测谎手册”，就需要定义明确的基准。最经典的两个多模态幻觉评测基准是 POPE（Polling-based Object Probing Evaluation） 和 CHAIR（Caption Hallucination Assessment with Image Relevance）。

POPE 采用判别式探测法：对一个数据集中的每张图片，从一个目标物体清单里采样正样本（图中存在的物体）和负样本（图中不存在的物体），然后向模型提问，比如“Is there a clock in the image?”。模型回答 “Yes“ 或 ”No” 后，评测系统直接算出精确率、召回率、F1 和幻觉率。POPE 的优点在于简单公平，所有模型面对的是同一套是非题。

CHAIR 则更侧重生成式评测：它让模型为图片生成一段自由描述的说明文字，然后利用图像中真实标注的物体集合，逐词检查描述里出现的每个物体是否在图片中真的存在。CHAIR 提供两个粒度指标：

评测流程一般归纳为四步：构建探测数据集、运行模型推理、与图像真值比对、聚合指标输出报告。这套标准化流程让不同团队、不同模型之间的评测结果可以横向比较，也推动幻觉评测从“个人经验”走向“行业标准”。

改善方向

侦探发现证人的脑补源于记忆偏差和表达习惯后，对症下药给出三味药。第一味是数据清洗：在训练阶段，剔除图文不匹配、标注噪声大的样本，减少模型学习到错误共现的机会。就像努力清除证人早年看过的那些狗血电视剧，避免他用戏里的情节填补记忆空白。

第二味是训练约束：在训练过程中加入更细粒度的区域级监督，让模型必须关注图像的具体区域，而非只依赖全局特征；同时也可以用负样本指令训练，明确告诉模型“图中没有的东西不要写”。这相当于给证人做培训：强调“看不到就是看不到”，不许编。

第三味是推理纠偏：在模型完成推理后，使用外部视觉模型（如目标检测器）对答案中的关键物体断言进行复核，发现“图中没有月亮”就自动修正或删除该断言。近期一些研究用“视觉验证器”作为第二道防线，就像侦探审完口供后，再请一位独立鉴定专家复检现场。

三味药的共同逻辑是：幻觉可以被降低，但很难被完全消灭。评测的意义不仅在于“打分”，更在于把打分结果反馈给训练和推理流程，构成“检测 → 量化 → 缓解 → 再检测”的闭环。侦探最终要的不是一份完美的证词，而是知道什么情况下证人会骗人，以及如何防止他开口骗人。

AI 应用场景

Python 演示

# -*- coding: utf-8 -*-"""多模态幻觉评测最小模拟器: 用探测问题检测模型是否存在幻觉"""import random  class HallucinationEvaluator:    """评测器: 对照图像真值, 检测描述中的幻觉, 并计算指标"""     def __init__(self):        self.records = []     def ask(self, obj, ground_truth, model_answer):        """单次探测: 问模型对象是否存在, 再与真值比对"""        label = int(obj in ground_truth)        pred = int(model_answer == 'yes')        case = {'tp': label == 1 and pred == 1,                'fp': label == 0 and pred == 1,                'fn': label == 1 and pred == 0}        self.records.append(case)        return case     def metrics(self):        """用累计记录计算精确率/召回率/F1/幻觉率"""        tp = sum(r['tp'] for r in self.records)        fp = sum(r['fp'] for r in self.records)        fn = sum(r['fn'] for r in self.records)        precision = tp / (tp + fp) if tp + fp else 0.0        recall = tp / (tp + fn) if tp + fn else 0.0        f1 = 2.0 * precision * recall / (precision + recall) if precision + recall else 0.0        hallu_rate = fp / len(self.records) if self.records else 0.0        return precision, recall, f1, hallu_rate  def fake_model_answers(obj):    """模拟一个偶尔'脑补'的模型: 对高频词更容易说 yes"""    high_freq = {'couch', 'clock', 'person'}    if obj in high_freq:        return 'yes' if random.random() < 0.95 else 'no'    return 'yes' if random.random() < 0.6 else 'no'  def main():    random.seed(42)    images = [        {'person', 'cat', 'chair'},        {'person', 'sofa', 'table'},        {'dog', 'car', 'tree'},    ]    probe_objects = ['person', 'cat', 'chair', 'sofa', 'tree', 'clock']    ev = HallucinationEvaluator()    for img in images:        for obj in probe_objects:            answer = fake_model_answers(obj)            ev.ask(obj, img, answer)    p, r, f1, hr = ev.metrics()    print('precision=%.3f recall=%.3f f1=%.3f hallucination_rate=%.3f' % (p, r, f1, hr))  if __name__ == '__main__':    main()

1. self.records = []初始化一个评测记录表，每条记录保存一次探测的 TP/FP/FN 判定结果。
2. label = int(obj in ground_truth)把“物体是否真的在图中”转成二值标签，1 表示存在，0 表示不存在。
3. pred = int(model_answer == 'yes')把模型回答“有/没有”转成二值预测，用于和真值标签比对。
4. self.records.append(case)把这次的判定结果追加到记录表，后续算指标时直接汇总。
5. precision = tp / (tp + fp) if tp + fp else 0.0精确率：说出口的断言里有多少是真的，分母为零时置 0 防止除零错误。
6. hallu_rate = fp / len(self.records) if self.records else 0.0幻觉率：假正例占全部探测问题的比例，这是最常见的幻觉量化口径。
7. high_freq = {'couch', 'clock', 'person'}模拟训练数据的高频共现先验：这些物体更容易被模型“脑补”说成存在。
8. for img in images:遍历多张“图像”（用物体集合表示），每张图代表一次独立的场景评测。
9. for obj in probe_objects:遍历探测问题清单，对每个候选物体都问一次“图里有没有它”。
10. ev.ask(obj, img, answer)执行一次探测并记录判定结果，核心评测逻辑全部收敛在 ask 方法里。

常见误区

面试题