LLM时代打击错误信息：机遇与挑战
计算机与社会
2023-11-13 v1
摘要
虚假新闻和谣言等错误信息对信息生态系统和公众信任构成严重威胁。大语言模型（LLMs）的出现极有可能重塑打击错误信息的格局。一般而言，LLMs在对抗中是一把双刃剑。一方面，LLMs因其深厚的世界知识和强大的推理能力，为打击错误信息带来可喜的机遇。因此，一个突现的问题是：如何利用LLMs打击错误信息？另一方面，关键挑战在于LLMs可被轻易用于大规模生成欺骗性错误信息。那么，另一个重要问题是：如何打击LLM生成的错误信息？在本文中，我们首先系统回顾LLMs出现之前打击错误的历史。然后我们分别阐述当前努力并对这两个基本问题给出展望。本综述论文旨在促进利用LLMs打击错误信息的进展，并呼吁不同利益相关方的跨学科努力以打击LLM生成的错误信息。
引用
@article{arxiv.2311.05656,
title = {Combating Misinformation in the Age of LLMs: Opportunities and Challenges},
author = {Canyu Chen and Kai Shu},
journal= {arXiv preprint arXiv:2311.05656},
year = {2023}
}
备注
9 pages for the main paper, 35 pages including 656 references, more resources on "LLMs Meet Misinformation" are on the website: https://llm-misinformation.github.io/