利用认知神经网络减少大型语言模型幻觉
计算与语言
2023-12-27 v1
摘要
减少和检测大型语言模型中的幻觉是一个开放的研究问题。在本项目中，我们试图利用不确定性估计领域的最新进展来减少冻结大型语言模型中的幻觉。认知神经网络 (Epistemic neural networks) 最近被提出用于改进大型预训练模型的输出联合分布。ENN 是附加在大型冻结模型上的小型网络，旨在改善模型的联合分布和不确定性估计。在本工作中，我们在 Llama-2 7B 模型之上训练了一个认知神经网络，并结合了对比解码特征增强技术。我们是首个为下一个词元预测任务训练 ENN 的研究者，并探讨了该方法在 TruthfulQA 数据集上减少幻觉的有效性。本质上，我们提供了一种利用预训练模型潜在嵌入来减少幻觉的方法。
引用
@article{arxiv.2312.15576,
title = {Reducing LLM Hallucinations using Epistemic Neural Networks},
author = {Shreyas Verma and Kien Tran and Yusuf Ali and Guangyu Min},
journal= {arXiv preprint arXiv:2312.15576},
year = {2023}
}
备注
12 pages,9 figures, 4 tables