“即便是解释也无法帮助信任[这个]根本偏置系统”：预测性警务案例研究
人机交互
2025-04-16 v1 人工智能
摘要
在当今社会，人工智能（AI）已在至关重要的角色中占据一席之地，用户对信任的关注问题日益突出。AI系统在高风险领域的应用常常导致用户要么低估其信任，要么高估其信任，从而引发不当依赖或过度遵从。因此，用户必须维持适当的信任水平。过去的研究表明，AI系统提供的解释可以增强用户对何时值得信任或不值得信任的理解。然而，不同解释形式在高风险领域的呈现效果仍需进一步探索。因此，本研究探讨了不同解释类型（文本、视觉、混合）以及用户专业背景（退休警官与普通用户）对建立AI预测性警务中适当信任的影响。我们观察到，混合形式的解释对专业用户提升了主观信任水平，但并未促进更好的决策。此外，无论何种解释形式都未能建立适当的信任。我们的发现强调了重新评估在AI系统中使用解释以建立[适当]信任的重要性，尤其是在系统使用存在争议的情境下。最后，我们综合了潜在挑战与政策建议，以为在高风险AI系统中设计适当信任提供指导。
引用
@article{arxiv.2504.11020,
title = {"Even explanations will not help in trusting [this] fundamentally biased system": A Predictive Policing Case-Study},
author = {Siddharth Mehrotra and Ujwal Gadiraju and Eva Bittner and Folkert van Delden and Catholijn M. Jonker and Myrthe L. Tielman},
journal= {arXiv preprint arXiv:2504.11020},
year = {2025}
}
备注
33rd ACM Conference on User Modeling, Adaptation and Personalization (UMAP '25), June 16--19, 2025, New York City, NY, USA