SH2：自我高亮犹豫助你解码更真实
计算与语言
2024-10-08 v4 人工智能
摘要
大语言模型（LLMs）在文本生成方面展现出卓越性能。然而，LLMs 仍饱受幻觉困扰。在这项工作中，我们提出一种推理时方法——自我高亮犹豫（SH2），以帮助 LLMs 更真实地解码。SH2 基于一个植根于信息论的简单事实：对于 LLM，以较低概率预测的词元往往比其他词元包含更多信息。我们的分析表明，被 LLM 赋予较低概率的词元更可能与事实信息紧密相关，例如名词、专有名词和形容词。因此，我们提议通过选择概率最低的词元并将其拼接到原始上下文中来“高亮”事实信息，从而迫使模型在生成前反复阅读并犹豫于这些词元。在解码过程中，我们还采用对比解码来强调由犹豫带来的输出概率差异。实验结果表明，我们的 SH2 无需额外数据或模型，就能有效帮助 LLMs 引出事实知识并区分幻觉上下文。在多个幻觉任务上，SH2 为 LLaMA-7b、LLaMA2-7b 和 Mistral-7b 带来了显著且一致的改进。
引用
@article{arxiv.2401.05930,
title = {SH2: Self-Highlighted Hesitation Helps You Decode More Truthfully},
author = {Jushi Kai and Tianhang Zhang and Hai Hu and Zhouhan Lin},
journal= {arXiv preprint arXiv:2401.05930},
year = {2024}
}
备注
EMNLP 2024 Findings