DecoPrompt：解码提示词可减少大语言模型在面对错误前提时的幻觉
计算与语言
2025-01-23 v2
摘要
虽然大语言模型（LLMs）展现出日益增强的能力，但它们也引发了关于其产生与事实正确陈述偏离的幻觉输出的研究。在本文中，我们关注错误前提这一重要场景，即尽管模型拥有准确回答原始问题所需的事实知识，却因不一致的声明而被误导。受到错误前提提示词的熵与其引发幻觉生成的可能性密切相关这一观察的启发，我们提出了一种新的提示算法，称为 DecoPrompt，以缓解幻觉。DecoPrompt 利用 LLMs 来“解码”错误前提提示词，而不真正引发 LLMs 的幻觉输出。我们在两个数据集上进行实验，证明 DecoPrompt 能有效减少不同 LLMs 输出中的幻觉。此外，DecoPrompt 表现出跨模型迁移性，这便于其应用于大规模 LLMs 或无法获取模型 logits 等场景。
引用
@article{arxiv.2411.07457,
title = {DecoPrompt : Decoding Prompts Reduces Hallucinations when Large Language Models Meet False Premises},
author = {Nan Xu and Xuezhe Ma},
journal= {arXiv preprint arXiv:2411.07457},
year = {2025}
}