请相信我：关于RAG回复可信度的用户研究
信息检索
2026-01-22 v1
摘要
将生成式人工智能集成到信息访问系统中，通常会给用户呈现缺乏透明度的合成答案。本研究调查了不同类型的解释如何影响用户对检索增强生成系统回复的信任。我们进行了一项受控的两阶段用户研究，参与者从一对回复中选择更可信的一个——其中一个客观上质量高于另一个——分别在有和没有以下三种解释类型的情况下：（1）来源归属，（2）事实依据，以及（3）信息覆盖。我们的结果表明，虽然解释显著引导用户选择更高质量的回复，但信任并非仅由客观质量决定：用户的判断也深受回复清晰度、可操作性以及他们自身先验知识的影响。
引用
@article{arxiv.2601.14460,
title = {Trust Me on This: A User Study of Trustworthiness for RAG Responses},
author = {Weronika Łajewska and Krisztian Balog},
journal= {arXiv preprint arXiv:2601.14460},
year = {2026}
}
备注
This is the author's version of the work. The definitive version is published in: Proceedings of the 48th European Conference on Information Retrieval (ECIR '26), March 29-April 2, 2026, Delft, The Netherlands