AI生成内容对需要专业知识主题决策的影响

对用户在线决策和观点变化进行建模是一个复杂问题，需要考虑用户的个人决定因素、主题性质以及信息检索活动。此外，像ChatGPT这类基于生成式AI的产品正逐渐成为在线信息检索的关键要素。然而，在线决策过程中，领域特定知识与AI生成内容之间的相互作用尚不明确。为弥补这一研究空白，我们进行了一项基于实验室的解释性序贯研究，以大学生为对象。实验中，我们向参与者调查了一组易于理解的通用领域主题，以及另一组需要足够化学科学知识才能完全理解的领域特定主题。我们向参与者提供了决策支持信息，这些信息要么由生成式AI生成，要么选自经过筛选的人类专家撰写的资料，以探究AI生成内容相较于普通信息在决策过程中的作用。结果显示，参与者对领域特定主题改变观点的可能性较小。由于缺乏专业知识的参与者难以基于信息进行深入和独立的推理，他们倾向于依赖所提供材料中呈现的结论，并倾向于坚持最初的看法。此外，在本实验中，标注为AI生成的信息与标注为人类专门撰写的信息对参与者的帮助程度相当，这表明AI在取代人类专家帮助用户处理专业主题或问题方面具有巨大潜力，同时也引发了相关担忧。