基于一致性训练的半监督正式性风格转换
计算与语言
2022-03-28 v1
摘要
正式性风格转换(FST)是一项将非正式句子改写为正式句子而不改变其含义的任务。为解决现有平行数据集的数据稀缺问题,以往研究倾向于采用循环重建方案来利用额外的无标签数据,其中 FST 模型主要从目标侧无标签句子中获益。在这项工作中,我们提出了一种简单而有效的半监督框架,基于一致性训练来更好地利用源侧无标签句子。具体而言,我们的方法通过强制模型对其扰动版本生成相似输出,来扩充从源侧非正式句子获得的伪平行数据。此外,我们经验性地考察了各种数据扰动方法的影响,并提出了有效的数据过滤策略以改进我们的框架。在 GYAFC 基准上的实验结果表明,即使使用不到 40% 的平行数据,我们的方法也能取得最先进(SOTA)的结果。
引用
@article{arxiv.2203.13620,
title = {Semi-Supervised Formality Style Transfer with Consistency Training},
author = {Ao Liu and An Wang and Naoaki Okazaki},
journal= {arXiv preprint arXiv:2203.13620},
year = {2022}
}
备注
ACL 2022 main conference