如何保护自己免受5G辐射影响？探讨大语言模型对隐式误information的响应
计算与语言
2025-09-30 v3 人工智能
计算机与社会
摘要
随着大型语言模型（LLM）在各类场景中广泛部署，其潜意识传播误information的程度已成为一个 critical 的安全问题。当前研究主要在显式虚假陈述上评估LLM，忽略了误information往往以潜意识的前提形式潜伏于现实交互中。我们构建了EchoMist基准数据集，这是第一个全面评估隐式误information的基准，虚假假设被嵌入查询中。EchoMist针对来自多种来源、包括真实的人类-人工智能对话和社交媒体互动的、流传广泛、有害且不断演变的隐式误information进行测试。通过对15个最先进的LLM进行大规模实证研究，我们发现当前模型在该任务上表现惊人不佳，常常无法检测虚假前提，生成反事实的解释。我们还研究了两种缓解措施，即自我警报（Self-Alert）和检索增强生成（RAG），以提高LLM抵御隐式误information的能力。我们的发现表明，EchoMist仍是一个持久的挑战，凸显了防止隐式误information风险的关键需求。
引用
@article{arxiv.2503.09598,
title = {How to Protect Yourself from 5G Radiation? Investigating LLM Responses to Implicit Misinformation},
author = {Ruohao Guo and Wei Xu and Alan Ritter},
journal= {arXiv preprint arXiv:2503.09598},
year = {2025}
}
备注
Accepted to EMNLP 2025 main conference