可信赖的大语言模型：利用知识库和双解码器定制与锚定文本生成
计算与语言
2024-12-23 v6 人工智能
摘要
尽管人们对大语言模型的内容生成能力印象深刻，但诸如 ChatGPT 等大语言模型的使用受到内容领域锚定性的限制。生成内容的正确性和锚定性需要基于经过验证的上下文，例如检索增强生成的结果。将大语言模型适配到定制领域时的一个重要问题是，生成的响应往往不完整，或者添加的内容未经验证，甚至可能产生幻觉。先前关于幻觉检测的研究侧重于评估指标，这些指标不易适应动态领域，并且可能容易受到越狱等攻击。在这项工作中，我们提出了 1) 一种利用检索增强生成上下文中的知识三元组来纠正幻觉的后处理算法，以及 2) 一种融合检索增强生成上下文以指导生成过程的双解码器模型。
引用
@article{arxiv.2411.07870,
title = {Trustful LLMs: Customizing and Grounding Text Generation with Knowledge Bases and Dual Decoders},
author = {Xiaofeng Zhu and Jaya Krishna Mandivarapu},
journal= {arXiv preprint arXiv:2411.07870},
year = {2024}
}