风格迁移模型监督信号的实证评估
计算与语言
2021-01-18 v1 机器学习
摘要
近年来，文本风格迁移受到研究界越来越多的关注。然而，所提出的方法在许多方面存在差异，这使得评估模型各组成部分的独立贡献变得困难。在风格迁移中，最重要的组件是在缺乏平行训练数据时用于引导学习的优化技术。在这项工作中，我们实证比较了在训练期间提供监督信号的主导优化范式：回译、对抗训练和强化学习。我们发现回译具有模型特定的局限性，阻碍了风格迁移模型的训练。强化学习表现出最佳的性能提升，而对抗训练尽管流行，相对于后一种替代方案并未提供优势。在这项工作中，我们还尝试了机器翻译界流行的技术最小风险训练（Minimum Risk Training），据我们所知，该技术尚未在风格迁移任务中得到实证评估。我们填补了这一研究空白，并实证展示了其有效性。
引用
@article{arxiv.2101.06172,
title = {Empirical Evaluation of Supervision Signals for Style Transfer Models},
author = {Yevgeniy Puzikov and Simoes Stanley and Iryna Gurevych and Immanuel Schweizer},
journal= {arXiv preprint arXiv:2101.06172},
year = {2021}
}
备注
13 pages, 6 figures