域偏移下神经半监督学习的强基线
计算与语言
2018-04-26 v1 机器学习
机器学习
摘要
近年来提出了许多新颖的神经模型用于域偏移下的学习。然而,大多数模型仅在单一任务上、在专有数据集上评估,或与弱基线比较,这使得模型间的比较十分困难。在本文中,我们在域偏移下针对近期神经方法重新评估了经典通用自助法(bootstrapping)方法,并提出了一种新颖的多任务三训练(tri-training)方法,降低了经典三训练的时间和空间复杂度。在两个基准上的大量实验结果是负面的:尽管我们的新方法在情感分析上确立了新的 SOTA,但它并非始终表现最佳。更重要的是,我们得出了一个有些令人惊讶的结论,即经典三训练加上一些补充后优于 SOTA。我们得出结论,经典方法构成了重要且强的基线。
引用
@article{arxiv.1804.09530,
title = {Strong Baselines for Neural Semi-supervised Learning under Domain Shift},
author = {Sebastian Ruder and Barbara Plank},
journal= {arXiv preprint arXiv:1804.09530},
year = {2018}
}
备注
ACL 2018