不信任在人工智能中的重要性
摘要
近年来，人工智能（AI）的使用在越来越多领域中变得日益普遍。随着 AI 系统被采用于医疗和金融等更多高风险领域，确保其值得信赖变得愈发重要。一个被显著关注的问题通过可解释性方法的开发与应用来解决，这些方法据称能增加用户及更广泛社会的信任。尽管信任的提升可能是可取的，但对不同研究领域文献的分析表明，单纯聚焦于增加信任可能并不合理。最近 AI 聊天机器人的发展很好地例证了这一点：它们虽然高度连贯，却倾向于编造事实。在本文中，我们研究信任、可信赖性与用户依赖等概念。为促进对 AI 的恰当依赖，我们需要防止对这些系统的弃用与过度信任。基于我们对人际信任、对自动化的信任以及对（可解释）AI 信任的研究分析，我们识别出区分（对 AI 的）信任与不信任的潜在价值。我们提出，除信任外，适度程度的不信任对于缓解弃用与过度信任具有额外价值。我们认为，通过同时考量与评估信任和不信任，可确保用户能对可信赖的 AI 恰当依赖，这类 AI 既可能有用，也可能出错。
引用
@article{arxiv.2307.13601,
title = {The Importance of Distrust in AI},
author = {Tobias M. Peters and Roel W. Visser},
journal= {arXiv preprint arXiv:2307.13601},
year = {2023}
}
备注
This preprint has not undergone peer review or any post-submission improvements or corrections. The version of records of this contribution is published in Explainable Artificial Intelligence First World Conference, xAI 2023, Lisbon, Portugal, July 26-28, 2023, Proceedings, Part III (CCIS, volume 1903) and is available at https://doi.org/10.1007/978-3-031-44070-0