一次编辑，全局更新：面向大语言模型跨语言知识同步的简单框架
计算与语言
2025-05-26 v2 人工智能
摘要
知识编辑允许在不进行完整再训练的情况下，对大语言模型进行高效适应，以整合新信息或纠正错误。然而，先前方法通常仅聚焦于单语言编辑或基础多语言编辑，难以实现真正的跨语言知识同步。为此，我们提出一种简单实用且处于最先进水平的配方——Cross-Lingual Knowledge Democracy Edit (X-KDE)，旨在有效将知识从主导语言传播至其他语言。X-KDE 包含两个阶段：(i) Cross-lingual Edition Instruction Tuning (XE-IT)，针对精选平行数据集进行微调，以修改特定领域知识的同时保持无关信息；(ii) Target-language Preference Optimization (TL-PO)，运用先进优化技术确保跨语言一致性，促进更新的传递。此外，我们贡献了高质量的跨语言数据集，专为增强跨语言知识传递而设计。在 Bi-ZsRE 和 MzsRE 基准测试上进行大量实验表明，X-KDE 显著提升了跨语言性能，平均提升 +8.19%，同时在单语言设置中保持高准确率。
引用
@article{arxiv.2502.14645,
title = {Edit Once, Update Everywhere: A Simple Framework for Cross-Lingual Knowledge Synchronization in LLMs},
author = {Yuchen Wu and Liang Ding and Li Shen and Dacheng Tao},
journal= {arXiv preprint arXiv:2502.14645},
year = {2025}
}
备注
ACL 2025 Findings