多任务人类-人工智能交互中的信念更新与委派：受控仿真实验
人机交互
2026-02-03 v1
摘要
大型语言模型（LLMs）日益支持单一界面内的异构任务，要求用户在不同可靠性配置的领域中形成、更新和依据关于该系统的信念。因此，理解这些信念如何跨任务传递并塑造委派行为对于设计多功能AI系统至关重要。我们报告了一项预先登记的实验（N=240；7200次试验），其中参与者在语法检查、旅行规划和视觉问答等具有固定、领域典型准确率的任务中与受控AI模拟器交互。将委派操作化为二元依赖决策：接受AI的输出或独立行动，信念动力学相对于贝叶斯基准进行评估。我们发现三个主要结果：首先，参与者不会在任务之间重置信念：新任务中的先验取决于前一任务中的后验，10分的提升预测后续先验提升3-4个百分点。其次，在任务内，信念更新遵循贝叶斯方向，但显著保守，大约以规范贝叶斯速度的一半进行。第三，委派主要由对AI准确性的主观信念驱动，而非自信度驱动，尽管当信念保持不变时，自信度会独立地减少依赖。综合这些发现，表明用户形成关于多功能AI系统的全局、路径依赖的期望，保守地更新它们，主要基于主观信念而非客观绩效来依赖AI。我们讨论了关于期望校准、依赖设计以及部署中LLM-based界面潜在信念溢出风险的影响。
引用
@article{arxiv.2602.01986,
title = {Belief Updating and Delegation in Multi-Task Human-AI Interaction: Evidence from Controlled Simulations},
author = {Shreyan Biswas and Alexander Erlei and Ujwal Gadiraju},
journal= {arXiv preprint arXiv:2602.01986},
year = {2026}
}