为何不兼得？以不确定性补充解释及自我信心在人机协作中的作用
人工智能
2023-04-28 v1
摘要
AI 与 ML 模型已在医疗和刑事司法等关键领域得到诸多应用。然而，完全自动化此类高风险应用可能引发伦理或公平性问题。相反，在此类情形下，应由自动化系统辅助人类，使双方通过交互达成联合决策。本工作开展了一项实证研究，以识别不确定性估计与模型解释如何影响用户对模型的依赖、理解与信任，并探寻将二者结合起来的潜在益处。此外，我们试图评估用户在执行特定任务时自身能力自我信心对其行为的影响，同时也讨论后者可能如何扭曲基于一致率和切换率的分析结果。
引用
@article{arxiv.2304.14130,
title = {Why not both? Complementing explanations with uncertainty, and the role of self-confidence in Human-AI collaboration},
author = {Ioannis Papantonis and Vaishak Belle},
journal= {arXiv preprint arXiv:2304.14130},
year = {2023}
}