利用人类行为建模操纵 AI 辅助决策中的解释：好、坏与可怕

AI 模型的最新进展增加了基于 AI 的决策辅助工具在人类决策过程中的集成度。为充分释放 AI 辅助决策的潜力，研究者通过计算建模人类如何将 AI 推荐纳入最终决策，并利用这些模型提升人机团队绩效。同时，鉴于 AI 模型的“黑箱”本质，向人类决策者提供 AI 解释以帮助其更恰当地依赖 AI 推荐已成为常见做法。本文探讨能否定量建模人类如何将 AI 推荐和解释同时纳入决策过程，以及从学习模型中获得的这种对人类行为的定量理解能否被用来操纵 AI 解释，从而引导个体做出目标决策。跨多任务的大量人类实验表明，无论意图是对抗性还是善意的，人类行为都极易受这些被操纵解释的影响而趋向目标结果。此外，个体往往无法察觉这些解释中的异常，尽管其决策已受其影响。