对比解码：将开放式文本生成视为优化问题
计算与语言
2023-07-13 v2 人工智能
机器学习
摘要
给定一个语言模型 (LM)，最大概率对于开放式生成而言是一个糟糕的解码目标，因为它会产生简短且重复的文本。另一方面，采样则常常会产生偏离原始主题的不连贯文本。我们提出了对比解码 (CD)，这是一种可靠的解码方法，它在满足合理性约束的前提下优化一个对比目标。该对比目标返回大型 LM（称为专家，例如 OPT-13B）与小型 LM（称为业余者，例如 OPT-125M）下似然值的差异，而约束条件则确保输出是合理的。CD 的灵感来源于这样一个事实：大型 LM 的失败模式（例如重复、不连贯）在小型 LM 中更为普遍，并且这种差异表明了哪些文本应被优先选择。CD 不需要任何额外的训练，并且能生成比单独从大型 LM 解码更高质量的文本。它还能跨模型规模（OPT-13B 和 GPT2-1.5B）工作，并在维基百科、新闻和故事领域的自动评估与人工评估中显著优于四种强大的解码算法（例如核采样、top-k 采样）。
引用
@article{arxiv.2210.15097,
title = {Contrastive Decoding: Open-ended Text Generation as Optimization},
author = {Xiang Lisa Li and Ari Holtzman and Daniel Fried and Percy Liang and Jason Eisner and Tatsunori Hashimoto and Luke Zettlemoyer and Mike Lewis},
journal= {arXiv preprint arXiv:2210.15097},
year = {2023}
}
备注
Main conference long paper at ACL 2023