大语言模型中用户可控的知识融合：在创造力与幻觉之间取得平衡
计算与语言
2023-08-01 v1 人工智能
机器学习
摘要
在现代对话系统中，大语言模型（LLMs）的使用呈指数级增长，因其能够生成多样、相关且富有创造性的回复。尽管有其优势，在 LLM 的创造力与其对外部知识的忠实度之间取得平衡仍是一项关键挑战。本文提出一种创新的用户可控机制，用于调节 LLM 的想象能力与其对事实信息遵循程度之间的平衡。我们的方法在 LLM 训练微调阶段引入一个数值标签，表示生成回复中对参考知识的忠实程度。该程度通过自动流程计算，该流程使用 ROUGE 分数衡量词法重叠、使用 Sentence-BERT 嵌入衡量语义相似度，并采用 LLM 的自评分数。在模型推理期间，用户可操控该数值标签，从而控制 LLM 对外部知识的依赖程度。我们在多种场景下进行了大量实验，证明了方法的适应性及其在保障 LLM 回复质量与准确性方面的有效性。结果凸显了我们的方法在提升 LLM 通用性的同时维持创造力与幻觉之间平衡的潜力。
引用
@article{arxiv.2307.16139,
title = {User-Controlled Knowledge Fusion in Large Language Models: Balancing Creativity and Hallucination},
author = {Chen Zhang},
journal= {arXiv preprint arXiv:2307.16139},
year = {2023}
}