GeDi：生成式判别器引导的序列生成
计算与语言
2020-10-23 v2 机器学习
摘要
尽管大规模语言模型（LM）能够很好地模仿自然语言分布以生成逼真文本，但难以控制其生成分布中的哪些区域。这尤其成问题，因为用于训练大规模 LM 的数据集通常含有显著的毒性、仇恨、偏见与负面内容。我们提出 GeDi 作为一种高效方法，利用较小的 LM 作为生成式判别器来引导大规模 LM 的生成，使其更安全、更可控。GeDi 在每一步通过贝叶斯规则对两个类条件分布（一个以期望属性或控制码为条件，另一个以不期望属性或反控制码为条件）进行归一化，计算所有可能下一词的分类概率来引导生成。我们发现 GeDi 比最先进的方法具有更强的可控性，同时生成速度超过其 30 倍。此外，仅在四个主题上训练 GeDi，我们便能仅依据关键词可控地零样本生成新主题，解锁了以往可控生成方法不具备的新能力。最后，我们展示 GeDi 能显著降低 GPT-2（15 亿参数）的毒性而不牺牲语言质量，使其成为迄今为止在保持快速生成速度的同时对大规模语言模型解毒最实用的现有方法。
引用
@article{arxiv.2009.06367,
title = {GeDi: Generative Discriminator Guided Sequence Generation},
author = {Ben Krause and Akhilesh Deepak Gotmare and Bryan McCann and Nitish Shirish Keskar and Shafiq Joty and Richard Socher and Nazneen Fatema Rajani},
journal= {arXiv preprint arXiv:2009.06367},
year = {2020}
}