规则还是权重？基于认知XAI自适应模型比较XAI技术的用户理解
人工智能
2026-02-24 v1
摘要
规则（Rules）与权重（Weights）是解释性人工智能（XAI）技术中流行的两种解释方法，但目前尚不清楚如何在两者之间做出选择，缺乏认知框架进行比较。我们对前向决策任务和反事实决策任务进行的用户研究中认识到7种解释三种XAI方案——权重、规则及其混合形式的推理策略。为分析其能力，我们提出CoXAM（Cognitive XAI-Adaptive Model），采用共享记忆表示编码实例属性、线性权重和决策规则。CoXAM运用计算理性，根据效用与推理时间之间的权衡，分别为前向或反事实决策任务选择推理过程。在验证研究中，CoXAM在与基线机器学习代理模型的对比中更好地与人类决策相匹配。该模型成功复制并解释了若干关键实证发现，包括：反事实任务本质上比前向任务更难、决策树规则的记忆与应用难度高于线性权重、以及XAI的有用性取决于应用数据情境，同时识别了最有效的底层推理策略。通过CoXAM，我们为加速不同XAI技术的调试和基准测试提供了认知基础。
引用
@article{arxiv.2602.19620,
title = {Rules or Weights? Comparing User Understanding of Explainable AI Techniques with the Cognitive XAI-Adaptive Model},
author = {Louth Bin Rawshan and Zhuoyu Wang and Brian Y Lim},
journal= {arXiv preprint arXiv:2602.19620},
year = {2026}
}