MAP 尚未消亡：通过条件化消除退化以揭示真实语言模型模式

人们已广泛观察到，从自然语言生成（NLG）模型中进行精确或近似 MAP（寻模）解码持续导致退化输出（Holtzman 等，2019；Stahlberg 和 Byrne，2019）。先前工作将此行为归因于概率模型中模式的根本且不可避免的不足或语言建模的弱点。相反，我们认为即使不存在任何建模误差，由于训练数据的污染，也可能出现退化模式。具体而言，我们认为将极少量的低熵噪声与总体文本分布混合，会导致数据分布的模式变得退化。因此我们提议将 MAP 解码应用于模型的真实条件分布，其中条件变量显式避免特定的退化行为。利用精确搜索，我们经验性地验证了机器翻译模型和语言模型的长度条件模式确实比其无条件模式更流畅且更贴合主题。我们首次分享了来自这些模型以及来自 LLaMA-7B 模型若干变体的许多精确模态序列示例。值得注意的是，我们观察到即使在 LLaMA-7B 的规模下，各类退化模式依然存在。尽管我们无法通过精确搜索可处理地解决这些退化问题，我们对未经过指令微调训练的 LLaMA-7B 进行了基于分类器的近似搜索，并发现无需任何微调即可引出合理的输出。