通过弹性权重巩固进行情感分析的序列域适应
计算与语言
2020-07-21 v3
摘要
弹性权重巩固 (EWC) 是一种用于克服神经网络上连续任务之间灾难性遗忘的技术。我们利用这种任务间信息共享的现象进行域适应。情感分析 (SA) 等任务的训练数据可能在多个域中未能得到公平的表示。域适应 (DA) 旨在构建利用源域信息来提升在未见目标域上性能的算法。我们提出了一个与模型无关的框架——序列域适应 (SDA)。SDA 利用 EWC 在连续的源域上进行训练，以趋向一个通用的域解决方案，从而解决域适应问题。我们在卷积、循环和基于注意力的架构上测试了 SDA。我们的实验表明，所提出的框架使 CNN 等简单架构在 SA 的域适应中能够超越复杂的先进模型。此外，我们观察到，采用较难优先的反课程源域排序能带来最佳性能。
引用
@article{arxiv.2007.01189,
title = {Sequential Domain Adaptation through Elastic Weight Consolidation for Sentiment Analysis},
author = {Avinash Madasu and Vijjini Anvesh Rao},
journal= {arXiv preprint arXiv:2007.01189},
year = {2020}
}
备注
Accepted at 25th International Conference on Pattern Recognition, January 2021, Milan, Italy