基于强化学习的反 misinformation 回应生成：以 COVID-19 疫苗 misinformation 为例

在线misinformation的传播威胁公共健康、民主及更广泛的社会。虽然专业事实核查人员通过核查流行虚假声称形成第一道防线，但他们并不直接与misinformation传播者对话。另一方面，非专家普通用户充当一线眼睛，主动反击misinformation——近期研究表明96%的反misinformation回应由普通用户作出。然而，研究也发现三分之二的情况下，这些回应粗鲁且缺乏证据。本工作旨在创建反misinformation回应生成模型，以赋能用户有效纠正misinformation。该目标具有挑战性，因为缺乏包含理想反misinformation回应真值的数据集，且缺乏能生成有传播理论支撑回应的模型。本工作中，我们从野生社交媒体及受过大学教育学生的众包创建了misinformation与反misinformation回应对的两种新颖数据集。我们对收集的数据进行标注，以区分缺乏事实、礼貌及反驳性的劣质回应与理想回应。我们提出MisinfoCorrect，一种基于强化学习的框架，学习为输入的misinformation帖子生成反misinformation回应。该模型对生成器给予奖励，以提升礼貌性、事实性与反驳态度，同时保持文本流畅度与相关度。定量与定性评估表明，我们的模型通过生成高质量反驳回应优于若干基线。本工作展示了生成式文本模型用于社会公益的前景——此处，助力创建安全可靠的信息生态系统。代码与数据可在 https://github.com/claws-lab/MisinfoCorrect 获取。