基于遗传方法的生成式信息检索去除幻觉技术

生成式语言模型会产生幻觉现象，即有时会生成事实错误的响应。这些不准确之处尤其危险，因为响应流畅且表达恰当。我们聚焦于Grounded Answer Generation（生成式信息检索的一部分），旨在基于从搜索引擎检索到的结果生成直接答案。我们通过适应现有遗传生成方法并引入新的‘平衡适应度函数’来解决幻觉问题，该函数由用于相关性的交叉编码器模型和n-gram重叠度量组成，以促进 grounding。我们的平衡适应度函数方法在生成 grounding 答案的准确率上提升了四倍，同时保持高相关性。