与AI系统对话是否帮助人类更好地辨别视觉虚假信息？
人机交互
2025-04-10 v1
摘要
操纵性新闻媒体内容的广泛出现对在线信息完整性提出重大挑战。本研究探讨了与AI就AI生成的图像及其关联新闻声明进行对话，是否能够提高人类辨别能力并促进检测虚假信息的短期学习。我们邀请80名参与者与AI系统就新闻标题-图像对进行结构化对话，生成了1310次人类-AI对话交互。结果表明，AI交互显著提升了参与者识别真实与虚假新闻内容的准确率，从约60%提高到90%（p<0.001）。然而，这些改进在参与者在没有AI帮助的情况下面对新的、未见的图像-声明对时并未持续，准确率返回到基线水平（~60%，p=0.88）。这些发现表明，尽管AI系统可以通过具有说服力的对话有效地改变人们对特定内容的信念，但它们可能不会产生可迁移到新实例的持久性改进，突显了需要开发更有效的干预措施以促进可持久学习成果的需求。
引用
@article{arxiv.2504.06517,
title = {Can dialogues with AI systems help humans better discern visual misinformation?},
author = {Anku Rani and Valdemar Danry and Andy Lippman and Pattie Maes},
journal= {arXiv preprint arXiv:2504.06517},
year = {2025}
}