面向机器学习局部解释的人本评估基准
人机交互
2020-06-30 v2 人工智能
摘要
可解释机器学习的研究提出了不同的计算与受试者实验方法来评估模型显著性解释。这些方法衡量解释的不同性质，以实现设计可解释机器学习系统中的多样目标。在本文中，我们利用从多名人类标注者聚合得到的多层人类注意力掩码，提出了图像与文本领域的人本注意力基准。随后我们给出一项评估研究，以评估使用 Grad-cam 和 LIME 技术获得的模型显著性解释。我们通过将其与人类主观评分以及真值单层分割掩码评估进行比较，展示了该基准在模型解释定量评估中的效用。我们的研究结果表明，采用人类注意力基线且阈值无关的评估方法比单层目标分割掩码作为真值更为有效。我们的实验还揭示了用户在模型显著性解释主观评分中的偏差。
引用
@article{arxiv.1801.05075,
title = {A Human-Grounded Evaluation Benchmark for Local Explanations of Machine Learning},
author = {Sina Mohseni and Jeremy E. Block and Eric D. Ragan},
journal= {arXiv preprint arXiv:1801.05075},
year = {2020}
}
备注
Benchmark Available online at https://github.com/SinaMohseni/ML-Interpretability-Evaluation-Benchmark