KCTS:基于令牌级幻觉检测的知识约束树搜索解码
计算与语言
2023-10-16 v1 人工智能
机器学习
摘要
大语言模型(LLMs)已展现出卓越的类人自然语言生成能力。然而,其生成错误信息(常称为幻觉问题)的潜在可能,对其部署构成重大风险。解决此问题的常见方法是检索相关知识并在输入中用知识微调 LLM。遗憾的是,该方法训练成本高,且可能导致多任务模型的灾难性遗忘。为克服这些局限,我们提出一种称为 KCTS(知识约束树搜索)的知识约束解码方法,它利用知识分类器分数与 MCTS(蒙特卡洛树搜索),引导冻结的语言模型在每个解码步生成与参考知识对齐的文本。为使序列级知识分类器适应令牌级引导,我们还提出一种称为 RIPA(奖励拐点近似)的新颖令牌级幻觉检测方法。我们在知识 grounded 对话与抽象摘要上的实证结果,证明了 KCTS 作为一种即插即用、模型无关的解码方法,能有效减少自然语言生成中的幻觉。
引用
@article{arxiv.2310.09044,
title = {KCTS: Knowledge-Constrained Tree Search Decoding with Token-Level Hallucination Detection},
author = {Sehyun Choi and Tianqing Fang and Zhaowei Wang and Yangqiu Song},
journal= {arXiv preprint arXiv:2310.09044},
year = {2023}
}
备注
Accepted at EMNLP 2023 Main Conference