用于领域自适应的门控卷积神经网络
计算与语言
2019-05-17 v1
摘要
领域自适应探讨了如何使在源域上训练的分类器在不同于源域的目标域上最大化性能。该思想已在情感分析任务中得到广泛探索。在一个领域评论上训练并在另一领域上评估，以建模领域无关算法已被广泛研究。这进一步有助于理解领域间的相关性。本文中，我们展示了门控卷积神经网络(GCN)能有效地以过滤掉领域相关知识的方式学习情感分析。我们在多种门架构上实验：门控Tanh ReLU单元(GTRU)、门控Tanh单元(GTU)和门控线性单元(GLU)。在两个与该任务相关的标准数据集上的大量实验表明，使用门控卷积神经网络训练在目标域上的性能显著优于常规卷积和基于循环的架构。尽管注意力等复杂架构也能过滤领域特定知识，但其复杂度远高于门控架构。GCN依赖卷积，从而通过并行化获得优势。
引用
@article{arxiv.1905.06906,
title = {Gated Convolutional Neural Networks for Domain Adaptation},
author = {Avinash Madasu and Vijjini Anvesh Rao},
journal= {arXiv preprint arXiv:1905.06906},
year = {2019}
}
备注
Accepted Long Paper at 24th International Conference on Applications of Natural Language to Information Systems, June 2019, MediaCityUK Campus, United Kingdom