从误导性查询到准确答案：针对大语言模型的三阶段微调方法
计算与语言
2025-06-02 v2
摘要
大型语言模型（LLMs）在自然语言处理（NLP）中表现出卓越的性能，但对输入查询的质量敏感，尤其是当这些查询包含误导性或不准确信息时。现有方法侧重于纠正输出，常常忽视提升 LLMs 检测和纠正输入本身误导性内容能力的潜力。本文提出一种新颖的三阶段微调方法，增强 LLMs 检测和纠正输入中误导性信息的能力，进一步提高响应准确性，减少幻觉现象。具体而言，三个阶段包括（1）训练 LLMs 识别误导性信息，（2）训练 LLMs 使用内置或外部知识纠正误导性信息，（3）训练 LLMs 基于纠正后的查询生成准确答案。为评估我们的方法， 我们在三个数据集上进行实验，用于幻觉检测任务和问答（QA）任务，以及两个我们构建的包含误导性信息的数据集。实验结果表明，我们的方法在提高 LLM 回应的准确性和事实性方面显著有效，同时增强了幻觉检测能力，减少了输出中幻觉的生成，尤其是在查询包含误导性信息时效果尤为显著。
引用
@article{arxiv.2504.11277,
title = {From Misleading Queries to Accurate Answers: A Three-Stage Fine-Tuning Method for LLMs},
author = {Guocong Li and Weize Liu and Yihang Wu and Ping Wang and Shuaihan Huang and Hongxia Xu and Jian Wu},
journal= {arXiv preprint arXiv:2504.11277},
year = {2025}
}
备注
Accepted to ACL 2025 (Findings)