同一作者还是仅同一主题？迈向内容无关的文体表示
计算与语言
2022-04-12 v1
摘要
语言风格是语言不可或缺的组成部分。风格表示开发的最新进展越来越多地使用来自作者验证（AV）的训练目标：两篇文本是否出自同一作者？AV训练任务背后的假设（同一作者近似于同一写作风格）实现了自监督，从而得以广泛训练。然而，在AV任务上的良好表现并不能确保良好的“通用”风格表示。例如，由于同一作者通常可能写某些特定主题，在AV上训练的表示也可能编码内容信息而非仅风格。我们引入了一种AV训练任务的变体，利用对话或领域标签对内容进行控制。我们通过针对最近提出的STEL框架的一个原始变体，评估已知的风格维度是否被表示并优先于内容信息。我们发现，通过控制对话训练的表示优于使用领域控制或无内容控制训练的表示，能更好地表示独立于内容的风格。
引用
@article{arxiv.2204.04907,
title = {Same Author or Just Same Topic? Towards Content-Independent Style Representations},
author = {Anna Wegmann and Marijn Schraagen and Dong Nguyen},
journal= {arXiv preprint arXiv:2204.04907},
year = {2022}
}
备注
accepted to the 7th workshop on RepL4NLP at ACL 2022