DoLa：通过对比层间差异解码提升大语言模型的事实性
计算与语言
2024-03-12 v2 人工智能
机器学习
摘要
尽管能力惊人，大语言模型（LLMs）仍容易产生幻觉，即生成偏离预训练期间所见事实的内容。我们提出了一种利用预训练 LLM 减少幻觉的简单解码策略，无需以检索的外部知识为条件，也无需额外微调。我们的方法通过对比将较后层与较前层投影到词表空间所得 logits 的差异来获得下一 token 分布，利用了 LLM 中的事实知识通常被定位于特定 transformer 层这一事实。我们发现这种“通过对比层解码”（DoLa）的方法能更好地浮现事实知识并减少错误事实的生成。DoLa 在多项选择任务和开放式生成任务中一致地提升了真实性，例如将 LLaMA 系列模型在 TruthfulQA 上的表现绝对提升 12–17 个百分点，展示了其使 LLM 可靠生成真实事实的潜力。
引用
@article{arxiv.2309.03883,
title = {DoLa: Decoding by Contrasting Layers Improves Factuality in Large Language Models},
author = {Yung-Sung Chuang and Yujia Xie and Hongyin Luo and Yoon Kim and James Glass and Pengcheng He},
journal= {arXiv preprint arXiv:2309.03883},
year = {2024}
}
备注
ICLR 2024 main conference paper. The source code is available at https://github.com/voidism/DoLa