解释未被选择的路径
计算与语言
2021-03-31 v2 人工智能
人机交互
机器学习
摘要
现有深度神经网络模型的可解释性方法是否能有效回应用户需求尚不清楚。本文总结了近期 200 余篇自然语言处理（NLP）论文中使用的常见解释形式（如特征归因、决策规则或探针），并将其与 XAI 问题库中收集的用户问题进行比较。我们发现，尽管用户对“未被选择的路径”的解释感兴趣——即模型为何选择某一结果而非一个定义明确、看似相似且合理的替代结果——但大多数模型解释无法回答此类问题。
引用
@article{arxiv.2103.14973,
title = {Explaining the Road Not Taken},
author = {Hua Shen and Ting-Hao 'Kenneth' Huang},
journal= {arXiv preprint arXiv:2103.14973},
year = {2021}
}
备注
Accepted by The 2021 ACM CHI Workshop on Operationalizing Human-Centered Perspectives in Explainable AI (CHI 2021 HCXAI Workshop). For associated website, see https://human-centered-exnlp.github.io