与 AI 互动：界面设计如何塑造高风险决策中的人机协作

随着决策中对 AI 系统依赖的不断增长，确保人类用户能够在适当信任 AI 建议与保持自身判断之间取得平衡变得至关重要，尤其是在医疗等高风险领域。然而，已有研究表明，人机协作团队的表现往往逊于 AI 单独表现，证据表明自动化偏差是导致表现较差的原因，特别是因为人类倾向于遵循 AI 的建议，即便这些建议是错误的。在许多现有人机协作系统中，决策支持通常以文本解释（XAI）的形式提供，以帮助用户理解 AI 的推理过程。由于人类决策往往依赖于系统 1 思维，用户可能会忽略或未能充分参与这些解释，从而导致糟糕的决策。先前的研究表明，有必要采用新方法来鼓励用户参与这些解释，其中一种被提出的方法是使用认知强制函数（CFF）。在本研究中，我们考察了各种决策支持机制如何在糖尿病管理决策场景中影响用户参与度、信任以及人机协作任务表现。在一项有 108 名参与者参与的对照实验中，我们评估了六种决策支持机制的影响，这些机制分为两类解释（文本、视觉）和四种 CFF。我们的研究结果表明，AI 置信度水平、文本解释和性能可视化等机制增强了人机协作任务表现，并在提供 AI 推理线索时提升了信任度。人类反馈和 AI 驱动提问等机制鼓励了更深层次的反思，但往往因增加认知负担而降低了任务表现，进而影响了信任度。视觉解释等简单机制对信任度影响甚微，这凸显了在 CFF 和 XAI 设计中取得平衡的重要性。