基于神经句子编辑的快速跨域数据增强

数据增强有望缓解数据稀缺问题。这在初始数据供应不足的情况下最为重要。对于现有方法而言，这也正是增强最为困难之处，因为学习完整的数据分布是不可能的。对于自然语言，句子编辑提供了一种解决方案——依赖于对原始句子微小而有意义的改动。学习哪些改动是有意义的同样需要大量训练数据。因此我们旨在数据丰富的源域中学习这一点，并将其应用于数据稀缺的不同目标域——跨域增强。我们创建了 Edit-transformer，一种基于 Transformer 的句子编辑器，其速度显著快于当前最优(state of the art)方法且可跨域工作。我们认为，由于其结构，Edit-transformer 比其基于编辑的前身更适用于跨域环境。我们在 Yelp-Wikipedia 域对上展示了这一性能差距。最后，我们表明由于这一跨域性能优势，Edit-transformer 在若干下游任务中带来了有意义的性能提升。