生成式 AI 聊天机器人中的确认偏差：机制、风险、缓解策略及未来研究方向
人机交互
2025-04-15 v1 人工智能
摘要
本文探讨了生成式 AI 聊天机器人中确认偏差的现象，这是 AI 人机交互中相对未被充分考察的一个方面。基于认知心理学和计算语言学，本文审视了确认偏差——即寻求与既有信念相吻合信息的倾向——如何在大型语言模型的设计和运行方式中被复制和放大。文章分析了确认偏差在聊天机器人交互中可能呈现的机制，评估了与此类偏差相关的伦理和实际风险，并提出了一系列缓解策略。这些策略包括技术干预、界面重新设计和政策措施，旨在促进平衡的 AI 生成讨论。文章以概述未来研究方向的方式结束，强调需要跨学科合作和实证评估以更好地理解和应对生成式 AI 系统中的确认偏差。
引用
@article{arxiv.2504.09343,
title = {Confirmation Bias in Generative AI Chatbots: Mechanisms, Risks, Mitigation Strategies, and Future Research Directions},
author = {Yiran Du},
journal= {arXiv preprint arXiv:2504.09343},
year = {2025}
}