从参数到提示：理解并缓解微调 LLM 之间的真实性差距
计算与语言
2025-05-30 v1
摘要
事实知识提取旨在显式提取预训练语言模型中参数化的知识，以应用于下游任务。尽管先前的工作一直在研究监督微调数据对大语言模型（LLM）真实性的影响，但其机制仍不甚明了。我们通过系统性实验重新审视了这一影响，特别关注在已知知识与未知知识上进行微调时产生的真实性差距。我们的研究结果表明，这种差距可以在推理阶段得到缓解，方法是在分布外（OOD）设置下，或通过使用适当的上下文学习（ICL）提示（即少样本学习和思维链（CoT））。我们从知识图谱的角度在理论上证明了这一现象，表明测试时提示可能会减弱甚至掩盖微调数据的影响，并在知识提取中发挥主导作用。最终，我们的结果揭示了微调数据与测试时提示之间的相互作用，表明 ICL 可以有效弥补微调数据的不足，并凸显了重新考虑将 ICL 提示作为评估微调数据选择方法有效性手段的必要性。
引用
@article{arxiv.2505.23410,
title = {From Parameters to Prompts: Understanding and Mitigating the Factuality Gap between Fine-Tuned LLMs},
author = {Xuan Gong and Hanbo Huang and Shiyu Liang},
journal= {arXiv preprint arXiv:2505.23410},
year = {2025}
}
备注
The code of this paper will be released soon