视觉证据依赖

一句话定义

视觉证据依赖（Visual-Evidence Dependency） 指模型给出正确答案时，这个答案在多大程度上依赖图像中与问题对应的那块证据。

判据很朴素：把证据从图里移走，正确答案的支持度应当下降。 不下降，说明模型是靠别的东西答对的——问题措辞、拍摄习惯、数据集里的先验分布。

它解决什么问题

小而快的视觉模型完全可以「答对但没看图」。arXiv 上的 When Evidence Vanishes: Distilling Visual-Evidence Dependency in Medical Vision-Language Models（编号 2610.23469）在医学视觉问答上直接指出了这件事：紧凑模型能答对临床问题，靠的却是问题措辞或学到的先验。

标准的知识蒸馏只复制「教师在这张原图上偏好哪个答案」，不检查这个偏好是否以视觉证据为条件。学生于是学到一套答案分布，离线指标很好看，证据一撤就露馅。

关键做法

论文提出的方法叫证据条件依赖蒸馏（ECDD），三步：

配对。 给每张训练图配一张对照图，对照图的「证据等级」与原图匹配——把被问到的区域遮掉，或者换成不含该证据的图。
蒸馏差值，而不是蒸馏答案。 让教师分别看原图和对照图，取两次答案 margin 的落差，把这个落差（drop）当作蒸馏目标。
只罚不足。 目标函数是一个下界形式：学生依赖得不够才罚，依赖得够就不动它；同时保留原图上的监督，准确率不至于掉。

同一套形式可以套在不同粒度的证据上：被查询的临床区域、手术器械，或者整张图的内容。

论文报告：三种医学 VQA 设置下，原图准确率与蒸馏、对齐基线相当（主目标上差 0.11 个百分点）；而正例的 margin 对「遮住目标」与「随机遮挡」的响应，从基线的 0.786 升到 2.023——模型开始在意被遮的是不是那块证据。

常见误区

「准确率高，说明模型看懂了图。」 只有反事实测试也通过，这句话才成立。
「随便遮一块就行。」 遮错位置测的是别的东西。对照必须与目标证据对齐，否则测出来的是「模型怕不怕遮挡」。
「依赖越强越好。」 要的是该依赖时依赖。过度绑定单一区域，物体一挪位、镜头一偏就失效。
「这是医学领域的事。」 任何「图 + 问题」形式的视觉模型都适用：货架识别、陈列检查、单据识别同理。

用不上的时候

纯分类、输入里没有问题、也没有明确证据区域的场景，这套「按证据配对」的构造不好落地，得换别的反事实测法（整图替换、背景替换、同类样本互换）。

参考

arXiv:2610.23469，When Evidence Vanishes: Distilling Visual-Evidence Dependency in Medical Vision-Language Models（2026-10-16），提出证据条件依赖蒸馏（ECDD），以配对对照图上的答案 margin 落差作为蒸馏目标。