迈向以人为中心的可解释AI：模型解释的用户研究综述
人工智能
2024-10-17 v5 人机交互
摘要
可解释AI（XAI）被广泛视为不断扩展的AI研究之必要条件。更好地理解XAI用户的需求，以及对可解释模型进行以人为中心的评估，既必要又具挑战性。在本文中，我们基于系统性文献综述，探讨HCI与AI研究者如何在XAI应用中开展用户研究。在识别并深入分析过去五年中97篇具有基于人类的XAI评估的核心论文后，我们沿解释方法的被测特征——即信任、理解、可用性与人机协作性能——对其分类。我们的研究表明，XAI在某些应用领域（如推荐系统）比其他领域传播更迅速，但用户评估仍相当稀少，且几乎未吸纳认知或社会科学中的见解。基于对相关最佳实践（即用户研究中的通用模型、设计选择与度量）的全面讨论，我们为XAI研究者和从业者提出了关于设计与开展用户研究的实用指南。最后，本综述还强调了若干开放研究方向，特别是心理学科学与以人为中心的XAI之间的联系。
引用
@article{arxiv.2210.11584,
title = {Towards Human-centered Explainable AI: A Survey of User Studies for Model Explanations},
author = {Yao Rong and Tobias Leemann and Thai-trang Nguyen and Lisa Fiedler and Peizhu Qian and Vaibhav Unhelkar and Tina Seidel and Gjergji Kasneci and Enkelejda Kasneci},
journal= {arXiv preprint arXiv:2210.11584},
year = {2024}
}