KL散度引导的温度采样
计算与语言
2023-12-01 v2 人工智能
摘要
温度采样是一种使大语言模型预测多样化的常规方法。随着温度升高，预测变得多样，但也易受幻觉影响——生成合理但不符合事实的token。缓解幻觉的一种常见方法是提供源/依据文档，并训练模型生成绑定于所提供源且可归因的预测。似乎多样性与可归因性之间存在权衡。为缓解此类权衡，我们提出放宽在解码步骤上固定温度的限制，并依据通过KL散度度量的与源的相关性来引导动态温度的机制。我们的实验证实了该权衡，并表明我们的采样算法在对话式问答与摘要任务上优于常规的top-k与top-p算法。
引用
@article{arxiv.2306.01286,
title = {KL-Divergence Guided Temperature Sampling},
author = {Chung-Ching Chang and David Reitter and Renat Aksitov and Yun-Hsuan Sung},
journal= {arXiv preprint arXiv:2306.01286},
year = {2023}
}