基于自适应深度视觉嵌入的自步学习
机器学习
2018-07-25 v1 计算机视觉与模式识别
机器学习
摘要
在训练的不同阶段为深度神经网络（DNN）选择最合适的数据样本是一个尚未解决的挑战。尽管实践者通常忽略此问题，但非平凡的数据调度方法可能会显著改善收敛性和泛化性能。在本文中，我们提出基于自适应深度视觉嵌入的自步学习（SPL-ADVisE），一种将自步学习（SPL）与深度度量学习（DML）相结合的端到端训练协议。我们利用 Magnet Loss 训练一个嵌入卷积神经网络（CNN）以学习显著表示空间。学生 CNN 分类器动态选择相似的实例级训练样本组成小批量，其中来自交叉熵损失的易学性与来自所学度量空间的样本真实多样性作为样本重要性先验。为证明 SPL-ADVisE 的有效性，我们在多个粗粒度和细粒度视觉识别数据集上将深度 CNN 架构用于监督图像分类任务。结果表明，在所有数据集上，所提方法比其他 SPL 变体收敛更快且达到更高的终态精度，尤其在细粒度类别上。
引用
@article{arxiv.1807.09200,
title = {Self-Paced Learning with Adaptive Deep Visual Embeddings},
author = {Vithursan Thangarasa and Graham W. Taylor},
journal= {arXiv preprint arXiv:1807.09200},
year = {2018}
}
备注
Published as a conference paper at BMVC 2018