论条件语言生成中的幻觉与预测不确定性
计算与语言
2021-03-30 v1
摘要
尽管在不同自然语言生成任务上的性能有所提升，深度神经模型仍易于幻觉出不正确或不存在的事实。针对不同任务，人们分别提出并检验了不同的假设，但缺乏跨这些任务的系统性解释。在本研究中，我们建立了幻觉与条件语言生成中预测不确定性之间的联系。我们在图像字幕和数据到文本生成中考察了二者关系，并提出了一种对束搜索的简单扩展以减少幻觉。我们的分析表明，更高的预测不确定性对应更高的幻觉概率。认知不确定性比偶然不确定性或总不确定性更能指示幻觉。它有助于通过所提出的束搜索变体，以标准度量上的性能换取更少的幻觉，从而取得更好的权衡结果。
引用
@article{arxiv.2103.15025,
title = {On Hallucination and Predictive Uncertainty in Conditional Language Generation},
author = {Yijun Xiao and William Yang Wang},
journal= {arXiv preprint arXiv:2103.15025},
year = {2021}
}
备注
EACL 2021