用于风格迁移的替换语言模型
计算与语言
2024-02-29 v2 机器学习
摘要
我们提出替换语言模型（RLM），一种用于文本风格迁移（TST）的序列到序列语言建模框架。我们的方法自回归地将源句每个词元替换为具有相似含义但属于目标风格的文本片段。新片段通过非自回归掩码语言模型生成，可更好地保留被替换词元的局部上下文含义。该 RLM 生成方案汇聚了自回归模型的灵活性与非自回归模型的准确性，弥合了句子级与词级风格迁移方法间的鸿沟。为更精确控制生成风格，我们在 RLM 的隐藏表示上进行了词元级风格-内容解耦。在真实文本数据集上的实证结果展示了 RLM 相较于其他 TST 基线的有效性。代码见 https://github.com/Linear95/RLM。
引用
@article{arxiv.2211.07343,
title = {Replacing Language Model for Style Transfer},
author = {Pengyu Cheng and Ruineng Li},
journal= {arXiv preprint arXiv:2211.07343},
year = {2024}
}