OFFSIDE：多模态大语言模型中数据遗忘基准化
人工智能
2026-01-06 v2 计算与语言
摘要
多模态大语言模型（MLLMs）的快速发展加剧了数据隐私问题，使得机器遗忘（Machine Unlearning, MU）——即选择性移除所学习信息的技术——成为迫切需求。然而，现有的MLLMs遗忘基准受限于图像多样性不足、潜在不准确，以及不足的评估场景，难以真实再现实际应用的复杂性。为推动MLLMs遗忘技术的发展并缓解上述局限，本文提出OFFSIDE——一个基于足球转会谣言（football transfer rumors）构建的、用于评估MLLMs中谣言遗忘的新型基准测试。该数据集包含15,680条针对80名球员的记录，提供四个测试子集以评估遗忘效果、泛化能力、实用性和鲁棒性。OFFSIDE支持高级设置，如选择性遗忘和纠正性重学习，关键点在于支持单模态遗忘（仅遗忘文本数据）。我们对多个基线方法进行了广泛评估，发现关键发现包括：（1）单模态方法（擦除文本知识）在多模态谣言中难以奏效；（2）遗忘效果主要由灾难性遗忘所主导；（3）所有方法在“视觉谣言”（谣言出现在图像中）方面均表现不佳；（4）遗忘后的谣言可被轻易恢复；（5）所有方法都易受到提示攻击。这些结果揭示了当前方法的显著漏洞，凸显了需要更稳健的多模态遗忘解决方案的迫切性。代码已公开于https://github.com/zh121800/OFFSIDE。
引用
@article{arxiv.2510.22535,
title = {OFFSIDE: Benchmarking Unlearning Misinformation in Multimodal Large Language Models},
author = {Hao Zheng and Zirui Pang and Ling li and Zhijie Deng and Yuhan Pu and Zhaowei Zhu and Xiaobo Xia and Jiaheng Wei},
journal= {arXiv preprint arXiv:2510.22535},
year = {2026}
}