弥合贝叶斯可控语言模型训练与推理之间的差距
计算与语言
2022-06-14 v1 人工智能
摘要
大规模预训练语言模型在自然语言生成任务上取得了巨大成功。然而，难以控制预训练语言模型生成具有所需属性（如主题和情感等）的句子。最近，贝叶斯可控语言模型（BCLM）已被证明在可控语言生成中是高效的。BCLM 不使用微调预训练语言模型的参数，而是使用外部判别器来引导预训练语言模型的生成。然而，BCLM 训练与推理之间的不匹配限制了模型的性能。为解决该问题，本文提出一种用于可控语言生成的“双子判别器（Gemini Discriminator）”，以较小的计算代价缓解了不匹配问题。我们在两个可控语言生成任务上测试了我们的方法：情感控制和主题控制。在两项任务上，我们的方法在自动和人工评估中均达到了新的 SOTA 结果。
引用
@article{arxiv.2206.05519,
title = {Bridging the Gap Between Training and Inference of Bayesian Controllable Language Models},
author = {Han Liu and Bingning Wang and Ting Yao and Haijin Liang and Jianjin Xu and Xiaolin Hu},
journal= {arXiv preprint arXiv:2206.05519},
year = {2022}
}
备注
Submitted to Neurips 2022