KEST：基于核距离的高效自训练以改进可控文本生成
计算与语言
2023-06-21 v1
摘要
自训练（ST）通过生成伪标签在语言理解任务中已见成效，缓解了语言模型微调的标注瓶颈。然而，在促进半监督可控语言生成时，ST 面临两个关键挑战。首先，在自生成伪文本的增强下，生成模型倾向于过度利用先前学到的文本分布，遭遇模式崩溃与生成多样性差的问题。其次，每次迭代生成伪文本耗时严重，拖慢训练过程。在本工作中，我们提出 KEST，一种新颖高效的自训练框架以应对这些问题。KEST 利用基于核的损失，而非标准交叉熵，从共享非自回归生成器产生的软伪文本中学习。我们从理论与经验上证明，KEST 能以高效方式受益于更多样化的伪文本，这不仅允许精炼和利用先前拟合的分布，还增强了对更大潜在文本空间的探索，为性能提升提供保证。在三个可控生成任务上的实验表明，相较于若干强基线，KEST 在保持相当文本流畅度与生成多样性的同时显著提升了控制准确率。
引用
@article{arxiv.2306.10414,
title = {KEST: Kernel Distance Based Efficient Self-Training for Improving Controllable Text Generation},
author = {Yuxi Feng and Xiaoyuan Yi and Laks V. S. Lakshmanan and Xing Xie},
journal= {arXiv preprint arXiv:2306.10414},
year = {2023}
}
备注
arXiv admin note: substantial text overlap with arXiv:2212.08724