See What I Mean? CUE：解释的认知模型
人机交互
2025-09-23 v2 人工智能
机器学习
摘要
随着机器学习系统越来越多地用于关键决策，人类可理解解释的需求日益增长。当前对可解释AI（XAI）的评估往往侧重技术忠实性，而忽视认知可及性，这尤其影响到用户，尤其是视障用户。我们提出CUE（Cognitive Understanding of Explanations的缩写），即解释的认知理解模型，将解释属性与认知子过程关联：可读性（感知）、可读性（理解）和可解释性（解释）。在为455名受试者测试带有不同配色方案（BWR、Cividis、Coolwarm）的热图时，我们发现任务表现相当，但视障用户的信心/ effort较低。与预期不同，这些差距并未被可访问性更强的配色方案（如Cividis）所缓解，反而有时加剧了。这挑战了关于感知优化的假设，支持自适应XAI界面需求。我们通过改变解释可读性对可理解性的影响，验证了CUE的有效性。我们贡献了：(1) 一个用于解释理解的正式化认知模型，(2) 人中心化解释属性的集成定义，(3) 推动可访问、用户定制化XAI的实证证据。
引用
@article{arxiv.2506.14775,
title = {See What I Mean? CUE: A Cognitive Model of Understanding Explanations},
author = {Tobias Labarta and Nhi Hoang and Katharina Weitz and Wojciech Samek and Sebastian Lapuschkin and Leander Weber},
journal= {arXiv preprint arXiv:2506.14775},
year = {2025}
}
备注
10 pages, 5 figures (main text), 4 tables, 455-participant user study