幻觉多样性感知的主动学习用于文本摘要

大型语言模型（LLM）倾向于生成幻觉输出，即事实不正确或无依据的文本。现有缓解幻觉的方法通常需要昂贵的人工标注来识别和纠正LLM输出中的幻觉。此外，大多数方法关注特定类型的幻觉，例如实体或标记错误，这限制了它们在处理LLM输出中表现出的多种幻觉时的有效性。据我们所知，本文提出了第一个主动学习框架来缓解LLM幻觉，从而减少所需昂贵的人工幻觉标注。通过从语义框架、话语和内容可验证性方面测量文本摘要中的细粒度幻觉，我们提出了幻觉多样性感知采样（HADAS），以在主动学习中选择多样化的幻觉进行标注，用于LLM微调。在三个数据集和不同骨干模型上的大量实验证明了我们的方法在有效且高效地缓解LLM幻觉方面的优势。