协作工作中人工智能可解释性与接受度的需求
计算机与社会
2023-06-28 v1 人工智能
人机交互
摘要
人工智能（AI）在空管等安全关键情境中的日益普及，催生了实用且高效、并在一定程度上可对人类解释以被信任和接受的系统的出现。本结构化文献分析考察了n = 236篇关于AI可解释性与接受度需求的文章。结果包括对n = 48篇文章的全面回顾，涉及人们感知AI可解释所需的信息、接受AI所需的信息，以及促进对AI信任的表征与交互方法。结果表明，两类主要用户群体为：需要关于模型内部运作信息的开发者，以及需要关于AI结果或行为信息的终端用户。用户的信息需求在特异性、复杂性和紧迫性上各异，且必须考虑情境、领域知识以及用户的认知资源。AI系统的接受度取决于关于系统功能与性能的信息、隐私与伦理考量，以及针对个体偏好定制且支持目标的信息和建立系统信任的信息。关于系统局限性与潜在故障的信息可提升接受度与信任。可信的交互方法具拟人化特征，包括自然语言、语音、文本，以及图表、图形和动画等视觉表征。我们的结果对未来以人为中心的AI系统开发具有重要意义，因而可作为进一步针对具体应用探究用户需求的输入。
引用
@article{arxiv.2306.15394,
title = {Requirements for Explainability and Acceptance of Artificial Intelligence in Collaborative Work},
author = {Sabine Theis and Sophie Jentzsch and Fotini Deligiannaki and Charles Berro and Arne Peter Raulf and Carmen Bruder},
journal= {arXiv preprint arXiv:2306.15394},
year = {2023}
}