关于人工智能黑盒解释方法的批判性实证研究
人机交互
2021-10-01 v1
摘要
本文通过揭示后验解释在可解释性及其社会影响方面的不足，对黑盒机器学习模型的后验解释（人工智能可解释性(XAI)的主要趋势之一）提出了实证层面的担忧。我们利用一个具有代表性的消费者样本检验我们的假设，并报告三项主要发现。首先，我们表明黑盒模型的后验解释往往提供关于算法底层机制的片面且有偏的信息，并且可能通过转移用户注意力而受到操纵或信息隐瞒。其次，我们展示了除自我报告的主观感知指标外，经检验的行为指标对于提供更全面的可解释性维度视角的重要性。本文有助于为本质上透明的AI模型与黑盒复杂模型后验解释之间实际的学术争论提供新的见解——这一争论很可能将在AI系统的未来发展与落地中扮演极具影响力的角色。
引用
@article{arxiv.2109.15067,
title = {Critical Empirical Study on Black-box Explanations in AI},
author = {Jean-Marie John-Mathews},
journal= {arXiv preprint arXiv:2109.15067},
year = {2021}
}
备注
International Conference on Information Systems 2021, Dec 2021, JW Marriott Austin, United States. arXiv admin note: text overlap with arXiv:2109.09586