文本分类解释方法的人本评估
计算与语言
2019-08-30 v1 人工智能
机器学习
摘要
由于深度学习模型的黑盒性质，解释模型结果的方法对于获得人类信任并支持 AI 与人类的协作至关重要。在本文中，我们考虑了用于文本分类的 CNN 的几种模型无关与模型特定的解释方法，并进行了三种人本评估，聚焦于解释的不同目的：（1）揭示模型行为，（2）证明模型预测，以及（3）帮助人类调查不确定预测。结果突显了我们所考虑的各类解释方法的不同特质，并展示了这些方法在每种目的上可服务的程度。
引用
@article{arxiv.1908.11355,
title = {Human-grounded Evaluations of Explanation Methods for Text Classification},
author = {Piyawat Lertvittayakumjorn and Francesca Toni},
journal= {arXiv preprint arXiv:1908.11355},
year = {2019}
}
备注
17 pages including appendices; accepted to appear at EMNLP-IJCNLP 2019