MAPS：基于遮蔽归因的策略探测工具——一种对齐人类与模型解释的计算框架
神经元与认知
2025-10-17 v2 计算机视觉与模式识别
摘要
人类核心物体识别依赖于对视觉信息的选择性使用，但引导这些选择的策略难以直接测量。我们提出了MAPS（Masked Attribution-based Probing of Strategies），这是一款经过行为学验证的计算工具，用于测试人工神经网络（ANN）所得解释是否能够解释人类视觉。MAPS将归因图转换为解释遮蔽图像（EMI），并逐图像比较在这些最小化图像（像素预算有限）上的人类准确率与在完整刺激物上的准确率。MAPS为评估和选择在ANN可解释性方法之间提供了原则性的评估方式。在软件中，基于EMI的行为相似性可靠地恢复由其归因图计算的真实相似性，从而确定哪些解释方法最能捕捉模型的策略。当应用于人类和长臂猴时，MAPS识别出能够与生物视觉最接近对齐的ANN解释组合，在所需的行为试验次数远少于气泡遮蔽的情况下实现了相同的行为有效性。由于仅需获取模型归因及对原始图像的有限行为数据，MAPS避免了详尽的心理物理学实验，同时为在共同标准下联结人类行为、神经活动与模型决策提供了可扩展的工具。
引用
@article{arxiv.2510.12141,
title = {MAPS: Masked Attribution-based Probing of Strategies- A computational framework to align human and model explanations},
author = {Sabine Muzellec and Yousif Kashef Alghetaa and Simon Kornblith and Kohitij Kar},
journal= {arXiv preprint arXiv:2510.12141},
year = {2025}
}