基于标签信息分布对齐的连续迁移学习
机器学习
2020-06-08 v1 机器学习
摘要
迁移学习已成功应用于许多高影响的应用中。然而，大多数现有工作聚焦于静态迁移学习设定，极少致力于对随时间演化的目标域（如电影的在线评论）建模。为弥补这一差距，本文研究一种具有时间演化目标域的新型连续迁移学习设定。连续迁移学习的一个主要挑战是随着目标域随时间演化可能出现负迁移。为应对该挑战，我们提出源域与目标域之间一种新颖的标签信息 C-散度，以度量数据分布偏移并识别潜在的负迁移。随后，利用所提 C-散度的经验估计推导了目标域的误差界。此外，我们提出一个名为 TransLATE 的通用对抗变分自编码器框架，通过在潜在特征空间中最小化连续时间戳间目标域的分类误差与 C-散度。另外，我们基于 C-散度定义了表征负迁移的迁移签名，表明更大的 C-散度意味着真实场景中更高的负迁移概率。在合成与真实数据集上的大量实验证明了我们的 TransLATE 框架的有效性。
引用
@article{arxiv.2006.03230,
title = {Continuous Transfer Learning with Label-informed Distribution Alignment},
author = {Jun Wu and Jingrui He},
journal= {arXiv preprint arXiv:2006.03230},
year = {2020}
}