通过不变轨迹学习实现可泛化的多模态大语言模型编辑
机器学习
2026-02-02 v2 人工智能
摘要
知识编辑作为一种高效纠正大语言模型（LLM）中错误或过时知识的关键技术而出现。现有的编辑方法依赖于从参数或模块修改到输出的刚性映射，这导致了多模态大语言模型（MLLM）中的泛化局限性。在本文中，我们将MLLM编辑重新表述为一个分布外（OOD）泛化问题，其目标是辨别伴随事实偏移的语义偏移，从而在多样的跨模态提示中实现鲁棒的编辑。这个OOD问题的关键挑战在于识别能够准确泛化同时抑制虚假相关性的不变因果轨迹。为了解决这个问题，我们提出了ODEdit，一个即插即用的基于不变学习的框架，该框架优化了三方OOD风险目标，以同时增强编辑的可靠性、局部性和泛化性。我们进一步引入了一种编辑轨迹不变学习方法，该方法将总变分惩罚项整合到风险最小化目标中，以稳定编辑轨迹对抗环境变化。理论分析和大量实验证明了ODEdit的有效性。
关键词
引用
@article{arxiv.2601.19700,
title = {Generalizable Multimodal Large Language Model Editing via Invariant Trajectory Learning},
author = {Jiajie Su and Haoyuan Wang and Xiaohua Feng and Yunshan Ma and Xiaobo Xia and Yuyuan Li and Xiaolin Zheng and Jianmao Xiao and Chaochao Chen},
journal= {arXiv preprint arXiv:2601.19700},
year = {2026}
}