基于域自适应元学习的低资源风格迁移
计算与语言
2022-05-26 v1 人工智能
摘要
无平行数据的文本风格迁移（TST）已取得一些实用进展。然而，现有大多数无监督文本风格迁移方法存在以下缺陷：（i）需要海量非平行数据来引导不同文本风格的迁移；（ii）在新域微调模型时性能严重下降。本工作中，我们提出 DAML-ATM（带对抗迁移模型的域自适应元学习，Domain Adaptive Meta-Learning with Adversarial Transfer Model），其由 DAML 与 ATM 两部分组成。DAML 是一种域自适应元学习方法，用于在多个异构源域中学习通用知识，能够以少量数据适配到新的未见域。此外，我们提出一种新的无监督 TST 方法——对抗迁移模型（ATM），其由一个序列到序列预训练语言模型组成，并利用对抗式风格训练以实现更好的内容保持与风格迁移。在多域数据集上的结果表明，我们的方法在未见低资源域上泛化良好，相较十个强基线取得了最先进的结果。
引用
@article{arxiv.2205.12475,
title = {Low Resource Style Transfer via Domain Adaptive Meta Learning},
author = {Xiangyang Li and Xiang Long and Yu Xia and Sujian Li},
journal= {arXiv preprint arXiv:2205.12475},
year = {2022}
}
备注
Accept in NAACL 2022(oral)