“抱歉，请再说一遍？”提示——通过注入 [PAUSE] 的最优改写增强理解并减少幻觉
计算与语言
2024-03-29 v1 人工智能
摘要
幻觉已成为当代大型语言模型（LLM）最脆弱的方面。在本文中，我们引入了“抱歉，请再说一遍”（SCA）提示，旨在通过以下方式增强理解以避免 LLM 幻觉： 最优改写和 注入 [PAUSE] 词元以延迟 LLM 生成。首先，我们对 21 个 LLM 的提示在语言学细微差别方面进行了深入分析：正式性、可读性和具体性，并阐明了这些细微差别如何导致幻觉生成。可读性、正式性或具体性较低的提示给 LLM 带来了理解挑战，类似于人类面临的挑战。在这种情况下，LLM 往往会基于其想象（联想记忆）进行推测并生成内容，以填补这些信息空白。尽管这些推测偶尔可能与事实信息相符，但其准确性无法保证，从而导致幻觉。最近的研究表明，LLM 经常忽略长提示的中间部分，这一现象被称为“迷失在中间”。虽然特定的改写可能适用于一个 LLM，但相同的改写版本可能会在另一个 LLM 上引发不同的响应。因此，我们提出了一种最优改写技术，以识别给定提示中最易于理解的改写，并使用积分梯度（及其变体）进行评估，以保证 LLM 准确处理所有单词。在阅读长句时，人类经常在各个停顿点停顿，以更好地理解迄今为止所读内容。我们通过注入 [PAUSE] 词元对 LLM 进行了微调，使 LLM 能够在阅读较长提示时停顿。这带来了几项关键贡献： 确定注入 [PAUSE] 的最佳位置， 确定要插入的 [PAUSE] 词元数量，以及 引入反向代理调优来为 [PAUSE] 插入微调 LLM。
引用
@article{arxiv.2403.18976,
title = {"Sorry, Come Again?" Prompting -- Enhancing Comprehension and Diminishing Hallucination with [PAUSE]-injected Optimal Paraphrasing},
author = {Vipula Rawte and S. M Towhidul Islam Tonmoy and S M Mehedi Zaman and Prachi Priya and Aman Chadha and Amit P. Sheth and Amitava Das},
journal= {arXiv preprint arXiv:2403.18976},
year = {2024}
}