基于 DistanceNet-Bandits 的文本分类多源域适应
计算与语言
2020-03-05 v3 机器学习
机器学习
摘要
学习算法在目标域上的域适应性能是其源域误差与两域数据分布间散度度量的函数。我们针对 NLP 任务中的各类基于距离的度量展开研究，这些度量基于样本估计刻画域间差异。我们首先进行分析实验，展示哪些距离度量能最好地区分同域与不同域样本，并与经验结果相关。接下来，我们开发了 DistanceNet 模型，将这些距离度量或其混合作为额外损失函数，与任务损失函数联合最小化，以实现更好的无监督域适应。最后，我们将该模型扩展为新颖的 DistanceNet-Bandit 模型，其采用多臂 bandit 控制器动态切换多个源域，使模型学习向低资源目标域迁移的最优轨迹与域混合。我们在具有多个不同域的知名情感分析数据集上实验，表明我们的 DistanceNet 模型及其动态 bandit 变体在无监督域适应背景下优于有竞争力的基线。
引用
@article{arxiv.2001.04362,
title = {Multi-Source Domain Adaptation for Text Classification via DistanceNet-Bandits},
author = {Han Guo and Ramakanth Pasunuru and Mohit Bansal},
journal= {arXiv preprint arXiv:2001.04362},
year = {2020}
}
备注
AAAI 2020 (10 pages)