用于改进深度网络学习的转导式标签增强
计算机视觉与模式识别
2018-05-29 v1
摘要
深度学习应用于实际问题的重大障碍是标注数据的稀缺。事实上,小型训练集对深度网络毫无用处,因为由于大量可训练参数,它们极有可能出现过拟合现象。另一方面,通过进一步手动或半自动标注来扩充训练集规模可能代价高昂,有时甚至不可行。因此,解决该问题的标准技术是迁移学习和数据增强,后者包括对现有标注样本施加某种“变换”以使训练集规模增长。尽管这种方法在图像分类等应用中效果良好(设计合适的变换算子相对简单),但在更结构化的场景中如何应用并不明显。受几乎在所有应用领域中均易获得无标注数据这一观察的启发,本文采取不同视角并提出一种\emph{标签增强}方法。我们从一个小型、精心筛选的标注数据集出发,利用图转导技术让标签在一 larger 无标注数据集上传播。这使我们能自然利用数据中存在的(二阶)相似性信息,而这是标准增强技术通常忽视的信息源。特别地,我们展示通过使用已知的博弈论转导过程,可以创建更大且足够准确的标注数据集,从而训练出更好的神经网络。本文报告了初步实验,证明相对于标准图像分类数据集有一致改进。
引用
@article{arxiv.1805.10546,
title = {Transductive Label Augmentation for Improved Deep Network Learning},
author = {Ismail Elezi and Alessandro Torcinovich and Sebastiano Vascon and Marcello Pelillo},
journal= {arXiv preprint arXiv:1805.10546},
year = {2018}
}
备注
Accepted on IEEE International Conference on Pattern Recognition