通过忠实微调缓解大型语言模型的幻觉
计算与语言
2024-06-18 v1
摘要
大型语言模型（LLM）在各种自然语言处理任务中展现了卓越的性能。然而，它们容易生成流畅但不真实的响应，即所谓的“幻觉”。幻觉可能导致错误信息的传播，并在关键应用中造成危害。缓解幻觉具有挑战性，因为它源于噪声数据、模型过度自信、缺乏知识以及生成过程本身等因素。最近的努力试图通过表示编辑和解码算法来解决这个问题，在不进行重大结构更改或重新训练的情况下减少幻觉。然而，这些方法要么在潜在空间中隐式编辑LLM的行为，要么在解码过程中抑制输出不忠实结果的倾向，而不是显式地对幻觉进行建模。在这项工作中，我们引入了忠实微调（F2），这是一种新颖的方法，通过在微调期间精心设计的损失函数来显式地对忠实问答过程进行建模。我们在流行数据集上进行了大量实验，并证明F2在普通模型和基线上取得了显著的改进。
引用
@article{arxiv.2406.11267,
title = {Mitigating Large Language Model Hallucination with Faithful Finetuning},
author = {Minda Hu and Bowei He and Yufei Wang and Liangyou Li and Chen Ma and Irwin King},
journal= {arXiv preprint arXiv:2406.11267},
year = {2024}
}