中文

验证决定:温暖程度与用户特征如何塑造对对话式智能体信息检索的依赖

人机交互 2026-05-28 v1 人工智能

摘要

对话式人工智能(AI)提供了高效便捷的信息获取途径,但可能导致过度依赖,当用户盲目信任AI且在不核查事实的情况下接受其答案。信息检索正越来越多地遵循混合交互范式,将对话式AI与网页搜索结合,使事实核查更加便捷。本文考察了这种交互范式在减少依赖方面的效果。我们进一步探讨了哪些因素(如数字素养和对话温暖程度)驱动用户对AI答案进行验证。我们进行了一项混合主体的问答实验,参与者可与温暖型或中性型聊天机器人互动。我们的发现表明,尽管用户可同时访问对话式和网页搜索,依赖仍然存在。选择是否验证主要由既有用户感知(如对聊天机器人信任程度)驱动,而非答案属性,部分用户无论环境如何都进行事实核查,而另一些用户则默认信任聊天机器人。温暖的对话风格通过增加用户在聊天机器人错误时认同感,对依赖产生间接但关键的影响。咨询额外AI来源可预测更高的准确率,而传统网页搜索则不行。本研究通过以下方式扩展了对过度依赖的研究:(a)证明了即使可获取事实核查,依赖仍然存在;(b)识别出验证行为是用户依赖的;(c)揭示了对话温暖程度对过度依赖的间接影响,并对设计可信赖的对话式搜索系统具有启示。

关键词

引用

@article{arxiv.2605.28498,
  title  = {The Decision to Verify: How Warmth and User Characteristics Shape Reliance on Conversational Agents for Information Search},
  author = {Mert Yazan and Frederik Bungaran Ishak Situmeang and Suzan Verberne},
  journal= {arXiv preprint arXiv:2605.28498},
  year   = {2026}
}

备注

Under review for Computers in Human Behavior