序列到序列模型如何感知语言风格？
计算与语言
2019-08-19 v1
摘要
风格在我们日常语言使用中无处不在，但学习机器眼中的语言风格是什么？本文通过利用不同语料的语义向量的二阶统计量，以风格矩阵（即语义向量的协方差矩阵）为切入点，对这一问题的本质给出了一种新视角，并首次解释了序列到序列（Sequence-to-Sequence）模型如何在其语义向量中天然地编码风格信息。作为应用，我们设计了一种无需学习的文本风格迁移算法，该算法从风格矩阵显式构造一对迁移算子用于风格迁移。此外，我们的算法还被观察到具有足够的灵活性，能够迁移域外句子。大量实验证据证明了风格矩阵的信息性，以及我们所提风格迁移算法与最先进方法相比具有竞争力的性能。
引用
@article{arxiv.1908.05947,
title = {How Sequence-to-Sequence Models Perceive Language Styles?},
author = {Ruozi Huang and Mi Zhang and Xudong Pan and Beina Sheng},
journal= {arXiv preprint arXiv:1908.05947},
year = {2019}
}
备注
12pages, 3 figures