CoAX：面向认知的AI解释用户模型
人工智能
2026-05-01 v1
摘要
可解释AI（XAI）旨在改善用户对AI模型的理解与决策。然而，尽管XAI方面已有创新，但最新的用户评估显示，此目标仍未实现。理解人类认知有助于解释用户为何难以有效利用AI解释。本文聚焦于结构化（表格）数据的推理任务，考察了针对不同XAI方法（无、特征重要性、特征归因）在预测AI决策（即前向模拟）决策任务中的各种推理策略。我们 i) 从形式化用户研究中提取推理策略，ii) 收集 summative 用户研究中的决策数据。通过认知建模，我们实现了每种推理策略背后的过程，并评估了其与人类决策的一致性。我们发现，所构建的模型比基线机器学习代理更贴合人类决策，为哪些推理策略（不）有效提供了见解。随后，我们展示了所拟合模型如何用于形成假设并调查昂贵且依赖真实人类参与者的研究问题。本工作促进了对XAI的人类理解进行调试，为未来开发更易用和可解释的AI解释提供了指导。
引用
@article{arxiv.2604.27354,
title = {CoAX: Cognitive-Oriented Attribution eXplanation User Model of Human Understanding of AI Explanations},
author = {Louth Bin Rawshan and Zhuoyu Wang and Brian Y. Lim},
journal= {arXiv preprint arXiv:2604.27354},
year = {2026}
}