面向语言模型的幻觉增强背诵法
计算与语言
2023-11-14 v1 人工智能
摘要
归因是大语言模型（LLMs）中的一个关键概念，因为它能够控制信息来源并增强 LLM 的事实性。虽然现有方法利用开卷问答来改进归因，但事实性数据集可能会激励语言模型回忆其在预训练数据中已经知晓的事实，而非进行归因。相比之下，反事实开卷问答数据集将进一步改进归因，因为答案只能基于给定文本。我们提出幻觉增强背诵法（HAR），通过利用 LLM 中的幻觉来创建反事实数据集，以改进归因。以开卷问答为案例研究，我们证明使用我们的反事实数据集微调的模型改进了文本依据性，从而带来更好的开卷问答性能，F1 分数最高提升 8.0%。我们的反事实数据集比使用人工标注的事实性数据集性能显著更好，即便数据集小 4 倍、模型小 4 倍。我们观察到改进在不同模型规模和数据集（包括多跳、生物医学和对抗性 QA 数据集）上是一致的。
引用
@article{arxiv.2311.07424,
title = {Hallucination Augmented Recitations for Language Models},
author = {Abdullatif Köksal and Renat Aksitov and Chung-Ching Chang},
journal= {arXiv preprint arXiv:2311.07424},
year = {2023}
}