通过对抗训练学习全局优化的语言结构
计算与语言
2023-11-14 v1 人工智能
摘要
近期工作探索将自回归语言模型与基于能量的模型（EBM）相结合以增强文本生成能力。然而，由于语言的离散性，为文本学习有效EBM面临挑战。本工作提出一种对抗训练策略以解决先前方法的局限。具体而言，提出一种迭代对抗攻击算法，通过对自回归模型文本进行扰动来生成训练EBM的负样本。这旨在使EBM抑制数据分布支撑集之外的伪模式。在算术序列生成任务上的实验表明，与先前方法相比，所提对抗训练方法能大幅提升生成序列质量。结果凸显了对抗技术改进离散EBM训练的潜力。主要贡献包括：（1）专为文本设计的对抗攻击策略以生成负样本，规避MCMC局限；（2）利用这些攻击的EBM对抗训练算法；（3）在序列生成任务上性能提升的实证验证。
引用
@article{arxiv.2311.06771,
title = {Learning Globally Optimized Language Structure via Adversarial Training},
author = {Xuwang Yin},
journal= {arXiv preprint arXiv:2311.06771},
year = {2023}
}