SI-FACT：通过自改进忠实性感知对比微调缓解知识冲突
计算与语言
2025-09-15 v1 人工智能
摘要
大型语言模型在知识密集型任务中常因知识冲突（即倾向于依赖内部参数化知识而非提供的上下文）而产生不忠实的响应。为解决此问题，我们提出了一种新颖的自改进框架，即自改进忠实性感知对比微调（SI-FACT）。该框架采用自指令机制，使基础 LLM 能够自动生成高质量、结构化的对比学习数据，包括锚定样本、语义等价的正面样本以及模拟不忠实场景的负面样本。这种方法显著降低了人工标注的成本。随后，应用对比学习来训练模型，使其在表示空间中拉近忠实响应，推远不忠实响应。在知识冲突评估基准 ECARE KRE 和 COSE KRE 上的实验表明，基于 Llama3 8B Instruct 的 SI-FACT 模型在上下文召回率上比最佳基线方法提高了 6.2%，同时显著降低了对内部记忆的依赖。结果表明，SI-FACT 在增强 LLM 的上下文忠实性方面提供了强大的有效性和高数据效率，为构建更主动、更可信的语言模型提供了一条实用途径。
引用
@article{arxiv.2509.10208,
title = {SI-FACT: Mitigating Knowledge Conflict via Self-Improving Faithfulness-Aware Contrastive Tuning},
author = {Shengqiang Fu},
journal= {arXiv preprint arXiv:2509.10208},
year = {2025}
}