对话式可解释人工智能是否就是您所需要的？面向人类-人工智能决策的对话式可解释人工智能助手
人机交互
2025-01-30 v1 人工智能
摘要
可解释人工智能（XAI）方法正被提出以帮助解释和理解 AI 系统如何到达特定预测。灵感来自对话式用户界面工作，本文认为，通过将现有 XAI 方法与对话式用户界面相结合，可增加用户参与度并提升用户对 AI 系统的理解。本文探讨了对话式 XAI 界面对用户理解 AI 系统、信任以及对 AI 系统依赖程度的影响。相较于 XAI 仪表板，我们发现，对话式 XAI 界面能够在用户层面提升对 AI 系统的理解程度和用户信任水平。然而，无论是 XAI 仪表板还是对话式 XAI 界面，用户都会表现出对 AI 系统的明显过度依赖。由大型语言模型（LLM）驱动的增强对话反而放大了这种过度依赖。基于我们的发现，我们认为，这种过度依赖的潜在原因可能与 XAI 界面伴随的解释深度错觉有关。我们的发现对设计有效的对话式 XAI 界面具有重要意义，以促进适当的依赖并提高人类-人工智能协作。代码可在 https://github.com/delftcrowd/IUI2025_ConvXAI 查找。
引用
@article{arxiv.2501.17546,
title = {Is Conversational XAI All You Need? Human-AI Decision Making With a Conversational XAI Assistant},
author = {Gaole He and Nilay Aishwarya and Ujwal Gadiraju},
journal= {arXiv preprint arXiv:2501.17546},
year = {2025}
}
备注
conditionally accepted to IUI 2025