面向人机协作的可解释界面：调查综述
人工智能
2024-05-07 v1
摘要
当今大型基础模型正日益集成到包括人机协作（HAT）于交通、医疗和国防领域在内的众多安全关键型应用中。因此，这些高级深度神经网络固有的“黑箱”特性加剧了在人类与自主系统之间建立相互理解和信任的重要性。为解决 HAT 中的透明度挑战，本文从人本视角深入研究了在 HAT 系统中可解释界面（EI）的设计、开发与评估，以丰富现有可解释人工智能（XAI）领域的研究。我们阐述了 XAI 增强 HAT 系统中 EI 的设计、开发与评估。为此，我们首先阐明了这些概念之间的区别：EI、解释与模型可解释性，旨为研究者和实践者提供结构化理解。其次，我们为 EI 提出了新框架，解决 HAT 的独特挑战。最后，我们总结的评估框架为持续的 EI 提供了整体视角，涵盖模型性能、人本因素和团队任务目标。基于对 XAI、HAT、心理学和人机交互（HCI）的广泛调查，本综述提供了多个新见解，阐述了将 XAI 融入 HAT 系统的路径，并勾勒出未来发展方向。
引用
@article{arxiv.2405.02583,
title = {Explainable Interface for Human-Autonomy Teaming: A Survey},
author = {Xiangqi Kong and Yang Xing and Antonios Tsourdos and Ziyue Wang and Weisi Guo and Adolfo Perrusquia and Andreas Wikander},
journal= {arXiv preprint arXiv:2405.02583},
year = {2024}
}
备注
45 pages, 9 figures