决策中的人—AI 关系：以 AI 解释支持人们对自身决策的辩护
人机交互
2021-02-23 v2 人工智能
摘要
基于人工智能(AI)的系统的解释维度在过去几年中一直是热门话题。不同社群对 AI 在人们日常任务中日益增长的存在及其如何影响人们生活表示了关切。已有大量研究探讨可解释 AI(XAI)的可解释性与透明性概念，这些通常关联于算法与机器学习(ML)模型。但在决策场景中，人们需要更多关于 AI 如何运作及其产出的认知，以与该系统建立关系。决策者通常需要在不同领域向他人辩护其决策。若该决策在某种程度基于或受 AI 系统产出影响，则关于 AI 如何得出该结果的解释，是建立决策场景中 AI 与人之间信任的关键。在本立场论文中，我们讨论 XAI 在决策场景中的作用、我们对人在回路决策中 AI 系统的愿景，并探讨文献中一个关于 XAI 如何影响人们辩护其决策的案例，考量为此类场景建立人—AI 关系的重要性。
引用
@article{arxiv.2102.05460,
title = {The human-AI relationship in decision-making: AI explanation to support people on justifying their decisions},
author = {Juliana Jansen Ferreira and Mateus Monteiro},
journal= {arXiv preprint arXiv:2102.05460},
year = {2021}
}
备注
Pre-print of paper accepted in Workshop on Transparency And Explanations In Smart Systems (TEXSS) held in conjunction with ACM Intelligent User Interfaces (IUI) (April 2021)