Fact-R1：迈向基于深度推理的可解释视频虚假信息检测
计算机视觉与模式识别
2025-10-16 v3 人工智能
摘要
社交媒体上多模态虚假信息的快速传播引发了日益增长的担忧，而由于缺乏大规模、多样化的数据集，视频虚假信息检测的研究仍然有限。现有方法往往过度拟合僵化模板，缺乏对欺骗性内容的深度推理。为应对这些挑战，我们引入了 FakeVV，一个包含超过 10 万个视频-文本对并带有细粒度、可解释标注的大规模基准数据集。此外，我们进一步提出了 Fact-R1，一个将深度推理与协作式基于规则的强化学习相结合的新型框架。Fact-R1 通过三阶段过程进行训练：(1) 虚假信息长链思维 (CoT) 指令微调，(2) 通过直接偏好优化 (DPO) 进行偏好对齐，以及 (3) 使用新型可验证奖励函数的群体相对策略优化 (GRPO)。这使得 Fact-R1 能够展现出与先进文本强化学习系统中观察到的类似涌现推理行为，但处于更复杂的多模态虚假信息环境中。我们的工作为虚假信息检测建立了一种新范式，连接了大规模视频理解、推理引导的对齐和可解释验证。
引用
@article{arxiv.2505.16836,
title = {Fact-R1: Towards Explainable Video Misinformation Detection with Deep Reasoning},
author = {Fanrui Zhang and Dian Li and Qiang Zhang and Jun Chen and Gang Liu and Junxiong Lin and Jiahong Yan and Jiawei Liu and Zheng-Jun Zha},
journal= {arXiv preprint arXiv:2505.16836},
year = {2025}
}
备注
34 pages, 25 figures