FROST：更快速且更鲁棒的一次性半监督训练
机器学习
2020-12-07 v4 人工智能
计算机视觉与模式识别
图像与视频处理
机器学习
摘要
近期一次性半监督学习的进展降低了深度学习新应用门槛。然而，半监督学习的最优方法训练缓慢，且性能对标注数据的选择和超参数值敏感。在本文中，我们提出一种一次性半监督学习方法，其训练速度最高快一个数量级，且比最优方法更鲁棒。具体而言，我们表明通过将半监督学习与单阶段、单一网络版本的自训练相结合，我们的 FROST 方法训练更快，且对标注样本的选择和超参数的变化更鲁棒。我们的实验证明了 FROST 在 unlabeled 数据组成未知时的良好表现能力；即 unlabeled 数据包含各类不等数量且可包含不属于任何训练类的分布外样本。高性能、训练速度以及对超参数的不敏感性使 FROST 成为最实用的一次性半监督训练方法。我们的代码可在 https://github.com/HelenaELiu/FROST 获取。
引用
@article{arxiv.2011.09471,
title = {FROST: Faster and more Robust One-shot Semi-supervised Training},
author = {Helena E. Liu and Leslie N. Smith},
journal= {arXiv preprint arXiv:2011.09471},
year = {2020}
}
备注
Withdrawn because the results reported were due to an error in our code