高风险环境中的自适应可解释AI：利用多模态反馈在人机团队中建模快速信任
人工智能
2025-07-30 v1 人机交互
摘要
有效的人机协作在很大程度上依赖于快速信任，尤其是在应急响应等高风险场景中，及时准确的决策至关重要。在这些时间敏感且认知要求高的环境中，自适应可解释性对于培养人类操作员与AI系统之间的信任至关重要。然而，现有的可解释AI(XAI)方法通常提供统一的解释，并严重依赖显式反馈机制，这在高压力场景下往往不切实际。为弥补这一差距，我们提出了一个自适应XAI的概念框架，该框架通过隐式反馈响应用户的实时认知和情感状态，以非侵入方式运作，从而在高风险环境中增强快速信任。所提出的自适应可解释性信任框架(AXTF)利用生理和行为信号，如脑电图(EEG)、心电图(ECG)和眼动追踪，来推断用户状态并支持解释自适应。其核心是一个多目标、个性化的信任估计模型，将工作负荷、压力和情绪映射到动态信任估计值。这些估计值指导解释特征的调节，从而实现响应式和个性化的支持，促进人机协作中的快速信任。该概念框架为开发适应高压力、时间敏感环境严格需求的自适应、非侵入式XAI系统奠定了基础。
引用
@article{arxiv.2507.21158,
title = {Adaptive XAI in High Stakes Environments: Modeling Swift Trust with Multimodal Feedback in Human AI Teams},
author = {Nishani Fernando and Bahareh Nakisa and Adnan Ahmad and Mohammad Naim Rastgoo},
journal= {arXiv preprint arXiv:2507.21158},
year = {2025}
}
备注
15 pages, 1 figure, Accepted to MAI-XAI@ECAI2025