由大语言模型驱动的对话式AI放大证人访谈中的错误记忆

本研究考察了AI对人类错误记忆的影响——即对未发生事件的回忆或偏离实际发生情况的回忆。它探讨了通过具有建议性提问的人机交互中诱导错误记忆的机制，模拟犯罪证人访谈。测试了四个条件：控制组、基于调查的访谈、预设化机器人和使用大语言模型（LLM）的生成式机器人。受试者（N=200）观看犯罪视频后，与所assigned的AI访谈者或调查进行交互，回答包括五个误导性问题的问题。错误记忆在即时和一周后均被评估。结果显示，生成式机器人条件显著增加了错误记忆的形成，比控制组产生了3倍以上的即时错误记忆，比调查方法产生了1.7倍。36.4%的用户对生成式机器人的回应被误导。一周后，生成式机器人诱导的错误记忆数量保持不变。然而，这些错误记忆的置信度仍高于控制组。探讨了调节因素：对机器人更熟悉但对AI技术更熟悉、且对犯罪调查更感兴趣的用户更容易受到误导。这些发现凸显了在敏感场景中（如警局访谈）使用先进AI的潜在风险，强调了伦理考量的必要性。