信任并非同一种东西:决策工作流程与解释在人类-AI 决策中的影响
人机交互
2026-03-06 v1 人工智能
摘要
AI 辅助决策中的核心挑战之一是实现可核实、良好校准的信任。应防止过度信任(接受错误的 AI 建议)和不信任(拒绝正确的建议)。先前研究在决策工作流程设计上存在差异——用户是立即看到 AI 建议(1 步 setup)还是需先提交一次决策后才能看到建议(2 步 setup)——以及在信任测量方式上也存在差异——是通过自我报告还是通过行为信任(即依从性)来衡量。我们检验了 (a) 决策工作流程类型、(b) 解释的 presence 以及 (c) 用户的领域知识和 prior AI 经验的 effects 与 interactions。我们比较了 reported trust、依从性(接受率和转换率)以及过度依从性。结果表明,2 步 setup 并未降低过度依从性。决策工作流程也不直接影响自我报告的信任,但存在 domain knowledge 与解释之间的交叉互作效应,暗示单独的解释效果可能难以在不同工作流程 setup 中普遍适用。最终,我们的发现确认 reported trust 与依从性行为是两个 distinct constructs,应在 AI 辅助决策中分别进行评估。
引用
@article{arxiv.2603.05229,
title = {Not All Trust is the Same: Effects of Decision Workflow and Explanations in Human-AI Decision Making},
author = {Laura Spillner and Rachel Ringe and Robert Porzel and Rainer Malaka},
journal= {arXiv preprint arXiv:2603.05229},
year = {2026}
}
备注
Accepted at Conversations 2025 Symposium