多模态大模型幻觉问题

可视化演示

动态演示多模态大模型幻觉问题的核心机制，通过输入/处理/存储/输出四种模式展示关键概念与交互流程。

1. 幻觉定义与类型

还记得小时候玩的“传话游戏”吗？第一个人看到一张照片，悄悄告诉第二个人，第二个人再传给第三个人……传到队尾时，描述常常变得面目全非。多模态大模型的“看图说话”本质就是一场跨越多个环节的传话：照片是原稿，视觉编码器是第一个传话人，语言模型是最后一个传话人。当原稿信息在传递中丢失，最后一棒只能凭“常识”补全缺失——补对了是智慧，补错了就是幻觉。

在 AI 领域，“幻觉”指模型生成了与输入内容不符、却听起来自信满满的描述。多模态幻觉特指：你给模型一张图片，它却说出了图片里根本不存在的内容。学术界按出错方式把它分成三类：对象幻觉是“无中生有”——图中没有的人物或物体被言之凿凿地描述出来；属性幻觉是“张冠李戴”——把颜色、数量、大小说错；关系幻觉则是“颠三倒四”——把物体间的空间位置或交互关系说反。

三种幻觉的严重程度差异很大。对象幻觉危害最大，因为它完全脱离事实依据，比如医学影像里根本没有肿瘤，模型却报告“发现肿瘤”；属性幻觉次之，它至少抓住了物体本身，只是细节出错；关系幻觉往往容易被当作“小瑕疵”，但在“桌上放着的杯子”与“杯子下面是桌子”这类空间判断中同样可能引发事故。理解分类的意义在于：不同幻觉需要不同的检测与缓解策略。

回到传话游戏——如果第一个人描述得清楚（视觉信号强），后面的人即使听漏几个字也能猜对；但若第一个人含含糊糊（弱视觉），后面只能靠自己的经验“脑补”，游戏结束时便出现了原稿中不存在的内容。多模态模型的幻觉，正是这种“弱信号 + 强脑补”的必然产物。下面用公式看模型每生成一个词时，视觉与语言两股力量是如何博弈的。

2. 幻觉成因剖析

把“传话游戏”升级成“电话传声”：歌手录制的原声经过麦克风、电话线、扬声器，最后传到听众耳朵里。每一环都会让声音失真一点——电话线是最大的瓶颈。多模态大模型的视觉通路也有一条“电话线”：图像先被切成一格一格的 patch（视觉编码器做下采样），再被压成固定长度的特征序列，最后通过投影层对齐到文本空间。分辨率被压缩、细节被丢弃，这是幻觉的第一个根源。

第二个根源是“对不上频道”。视觉编码器输出的特征和语言模型理解的文本语义并不天然兼容，中间需要一层投影模块做“翻译”。如果翻译质量不足，模型脑子里就会出现“图像特征说的是 A 意思，文本通道听成了 B 意思”的错位。第三个根源藏在训练数据里：互联网图文数据中本身就有大量含混、甚至错误的图文对，模型学到的可能是“图里有砂锅就一定在炖鸡汤”这类以偏概全的关联。

第四个根源在解码阶段。语言模型是自回归式逐词生成的，它天生偏爱“顺口”的搭配——只要前面说了“餐桌上摆着”，下一词就倾向于“美食”而非“扳手”。当视觉证据微弱时，这种语言惯性会彻底主导输出，让模型“理直气壮地编”。如果用信息论的视角总结，幻觉的本质就是视觉信息在传递中发生了不可逆的丢失。

3. 代表模型概览

三支“传话队伍”各有各的传话风格。GPT-4V 像一位反应极快但偶尔爱加戏的解说员：它的视觉底座强大，能快速定位大物体，但面对细粒度属性（比如纽扣的颜色、树叶的数量）时，容易为了句子的流畅而编造。Gemini 则像一位“原生双语者”——从预训练起就同时接触图像、音频与文本，模态对齐更自然，整体幻觉率较低，但在开放域场景中依然会出现虚构细节。

Qwen-VL 更像是为中文场景特训的传话员：它在中文图文对上表现稳健，理解中文指令更准确，但在复杂场景（多物体重叠、小目标密集）下同样会“眼花”。值得注意的是，所谓“某模型幻觉更少”是有条件限制的——不同评测基准、不同提示词下，模型的表现差异很大，不能简单地说“谁一定更好”。

从幻觉差异对比来看，粗粒度视觉任务（判断“图中有没有人”）各家都表现出色，而细粒度任务（判断“人有几根手指”）则普遍翻车。这说明视觉编码的 patch 化上限是共同的瓶颈，模型之间的差异更多体现在“谁的语言先验更不容易掩盖视觉证据”。评价一个模型时，要看它在你的真实场景数据上的幻觉表现，而不是只看榜单分数。

三个模型的例子提醒我们：传话人的“口才”再好在信息丢失面前也只是缓兵之计。真正决定幻觉率的，依然是整条通路的保真度——编码器丢了多少细节，解码器就会脑补多少内容。

4. 评测基准方法

怎么知道传话有没有走样？最可靠的办法是把原稿拿出来对照——这就是人工评测：请标注员逐条对比模型描述与真实图片内容。人工评测准确、能捕捉细微语义错误，但成本高、速度慢，无法规模化。于是研究者发明了“机器速查”指标，其中最有代表性的是 CHAIR 和 POPE。

CHAIR 指标的思想很像“核对采购清单”：先让模型生成对图片的描述，用实体提取工具把描述中的对象名词全部拎出来，再和图片的真实标注清单逐一比对，发现清单里没有的对象，就记为一次“幻觉采购”。CHAIR 分为句子级（只要一句话里出现一个幻觉对象，整句判坏）和实例级（按幻觉对象数占比计算）两种，前者严格、后者细致。

POPE 评测法则像“抽问题库考官”：系统反复问模型“图中有猫吗？”“图中有大象吗？”，其中一半是真实存在的正样本，一半是精心挑选的不存在的负样本（通常是现实中有、但这张图里没有的事物）。模型回答“yes/no“，统计正确率。这类轮询式的测试能精准暴露模型”无脑say yes“的倾向——很多模型面对没见过的事物也会习惯性说”有”。此外还有对抗性测试，比如故意在图中加入对抗扰动，观察模型是否被诱导出幻觉。

评测不是目的，而是“体检报告”。人工评测如同主任医师的最终诊断，自动指标如同快速筛查仪——工程上通常先用自动指标大规模筛选，再对筛选出的可疑样本做人工复核。

5. 幻觉缓解策略

面对传话失真，人类有四招：换更好的电话线、给传话员做培训、让他们“听音辨位”、以及事后找人复核。多模态幻觉的缓解也对应四条技术路线。第一条是提示工程——相当于“给传话员立规矩”：让模型先描述图片中“确定存在”的物体，再回答问题；或者用思维链引导它把“我看到了什么”和“我猜到了什么”分开说。简单有效，零成本，是工程首选。

第二条是模型微调，相当于“传话员长期培训”：构造“无幻觉描述”的优质数据，或用偏好优化（如 DPO）让模型学会“宁可说不知道，也不要编造”。这条路线费力但治本，能显著降低模型整体的胡说倾向。第三条是解码干预，最有代表性的是 VCD（视觉对比解码）——相当于给传话员戴上“降噪耳机”：同时看原始图片和一张被刻意扭曲的图片，然后把两者预测差异大的词视为“真正由视觉驱动的词”并加强，差异小的词视为脑补并削弱。

第四条是外部知识校验，相当于“事后复核”：用目标检测器、OCR、其他视觉专家模型对模型的描述做交叉验证，发现描述与检测结果冲突时就打回重写或标记告警。这四条路线可以叠加使用，形成“提示约束 + 模型纠正 + 解码抑制 + 外部把关”的多层防线。工程上通常按成本从低到高逐层叠加。

四招齐用的经验是：先上零成本的提示工程看效果，再针对高频幻觉类型做微调，关键任务上开启 VCD 解码干预，最后在高危场景套一层外部校验兜底。

6. 工程应用实践

工厂车间里防止“传话事故”靠什么？靠的是工序风险分级、关键节点质检和紧急停机按钮。多模态 AI 的工程落地同样需要这套逻辑。首先做场景风险分级：医疗影像报告、自动驾驶路况问答属于“高危”——一句幻觉可能酿成事故；电商图文审核、内容审核属于“中危”——幻觉造成退货或投诉；闲聊、文案配图属于“低危”——幻觉反而像想象力。

接着设计检测流程。推荐“三步走”：第一步置信度检测，观察模型输出时各 token 的概率分布是否“心虚”；第二步规则校验，用正则和领域知识库检查硬性约束（如“图中不应出现品牌名”）；第三步模型交叉验证，用检测器或另一个小型视觉模型对关键实体做投票确认。三步都通过才放行，任何一步存疑就进入降级通道。

置信度检测中最常用的工具是信息熵。熵衡量模型输出分布的混乱程度：如果模型很有把握，某个词的概率接近 1，熵趋近 0；如果模型在几个词之间摇摆不定，熵就很高。工程上会设定一个熵阈值，超过阈值就视为“进入脑补模式”，直接跳过放行流程。

最后是兜底降级机制——相当于车间里的“紧急停机”：当检测流程判定输出可疑时，模型可以选择诚实地回答“我无法确认图中是否有该物体”、拒绝回答、或把问题转给人工处理。这套机制保证了系统的安全底线：宁可少答，不可错答。

AI 应用场景

Python 演示

#!/usr/bin/env python3# -*- coding: utf-8 -*-# 多模态幻觉检测: CHAIR 指标计算 + POPE 轮询模拟  def compute_chair(generated_entities, ground_truth_objects):    # 找出描述中有但真实标注中不存在的对象, 即幻觉对象    hallucinated = []    for entity in generated_entities:        if entity not in ground_truth_objects:            hallucinated.append(entity)    total = len(generated_entities)    chair_i = len(hallucinated) / total if total else 0.0    return chair_i, hallucinated  def pope_accuracy(responses):    # responses: [(question, expected, answer), ...]    correct = 0    for question, expected, answer in responses:        if expected.lower() == answer.lower():            correct += 1    total = len(responses)    return correct / total if total else 0.0  def main():    # 真实图片中只有猫, 沙发, 茶几    gt_objects = {"cat", "sofa", "table"}    # 模型生成的描述, 出现了图里没有的 blue_hat    generated = ["cat", "sofa", "blue_hat", "table"]    chair_i, hallucinated = compute_chair(generated, gt_objects)    print("CHAIR_i = {:.2f}".format(chair_i))    print("Hallucinated objects:", hallucinated)     # POPE 轮询: 正负样本混合    responses = [        ("Is there a cat?", "yes", "yes"),        ("Is there a blue_hat?", "no", "yes"),        ("Is there a sofa?", "yes", "yes"),        ("Is there a table?", "yes", "no"),    ]    acc = pope_accuracy(responses)    print("POPE accuracy = {:.2f}".format(acc))  if __name__ == "__main__":    main()

1. hallucinated = []初始化幻觉对象列表，后续把描述中有、真实标注中没有的对象放进来。
2. if entity not in ground_truth_objects逐一比对生成实体与真实标注，这是 CHAIR 的核心逻辑。
3. chair_i = len(hallucinated) / total if total else 0.0用幻觉对象数除以生成对象总数得到 CHAIR 指标。
4. pope_accuracy(responses)接收 （问题，期望答案，模型答案） 三元组列表，计算模型回答的正确率。
5. if expected.lower() == answer.lower()忽略大小写比较期望答案与模型答案，统计答对次数。
6. responses = [("Is there a cat?", "yes", "yes"), ...]构造正样本（图中有的）和负样本（图中没有的）混合轮询，模拟 POPE 评测。

常见误区

面试题