面向模型调试的解释效用基准测试
人工智能
2021-05-11 v1 人机交互
机器学习
摘要
事后解释方法是一类重要的方法，有助于理解训练模型决策背后的依据。但对于最终用户完成给定任务而言，它们究竟有多大用处？在本愿景论文中，我们论证了建立基准以促进事后解释方法效用评估的必要性。作为迈向此目标的第一步，我们列举了此类基准在调试文本分类器任务上应具备的期望性质。此外，我们强调此类基准不仅有助于评估解释的有效性，也有助于评估其效率。
引用
@article{arxiv.2105.04505,
title = {Towards Benchmarking the Utility of Explanations for Model Debugging},
author = {Maximilian Idahl and Lijun Lyu and Ujwal Gadiraju and Avishek Anand},
journal= {arXiv preprint arXiv:2105.04505},
year = {2021}
}
备注
Short paper, to appear at TrustNLP @ NAACL 2021