有人类参与与无人类参与的透明机器学习质量指标不相关
人机交互
2021-07-06 v1 人工智能
计算机视觉与模式识别
摘要
可解释人工智能（XAI）领域已带来大量方法，使机器学习（ML）预测更具可解释性。但透明 ML 方法所提供的解释对人类有多大用处仍难以评估。在此，我们利用心理物理学的技术研究可解释计算机视觉算法的质量。在众包标注任务中，我们研究了不同可解释性方法对标注准确率和任务时间的影响。我们将这些质量指标与经典的 XAI 自动化质量指标进行比较。我们的结果表明，心理物理学实验能够对机器学习中的透明性进行稳健的质量评估。有趣的是，无人类参与计算的质量指标既未提供可解释性方法的一致排序，也不能代表解释对人类的有用程度。这些发现凸显了经典心理物理学方法在现代机器学习应用中的潜力。我们希望，如果目标是获得对可解释性的真实评估，我们的结果能为在其自然栖息地即人类-ML 交互中评估可解释性提供有说服力的论据。
引用
@article{arxiv.2107.02033,
title = {Quality Metrics for Transparent Machine Learning With and Without Humans In the Loop Are Not Correlated},
author = {Felix Biessmann and Dionysius Refiano},
journal= {arXiv preprint arXiv:2107.02033},
year = {2021}
}
备注
Proceedings of the ICML Workshop on Theoretical Foundations, Criticism, and Application Trends of Explainable AI held in conjunction with the 38th International Conference on Machine Learning (ICML), a non-peer-reviewed longer version was previously published as preprint here arXiv:1912.05011