面向基于实况的指令生成的幻觉检测
计算与语言
2023-10-25 v1 人工智能
机器学习
摘要
我们研究了在模拟住宅环境中生成指令以引导人类导航的问题。当前模型的一个主要问题是幻觉：它们生成与人工跟随者在所述路径上会执行或遭遇的动作或物体不一致的引用。我们开发了一个模型，通过采用在大规模图像-文本对语料上预训练的模型，并使用对比损失对其进行微调，以分离正确指令与含有合成幻觉的指令，从而检测这些幻觉性引用。我们的最终模型优于若干基线，包括使用指令生成模型估计的词概率，以及基于 LSTM 和 Transformer 的监督模型。
引用
@article{arxiv.2310.15319,
title = {Hallucination Detection for Grounded Instruction Generation},
author = {Lingjun Zhao and Khanh Nguyen and Hal Daumé},
journal= {arXiv preprint arXiv:2310.15319},
year = {2023}
}