深度卷积网络中用于图像分类的混合可分性损失
计算机视觉与模式识别
2019-06-18 v1 机器学习
摘要
在机器学习中，代价函数至关重要，因为它衡量系统的优劣。在图像分类中，知名网络仅考虑修改网络结构并在网络末端应用交叉熵损失。然而，仅使用交叉熵损失会导致当所有训练图像都被正确分类时网络停止更新权重。这就是早期饱和问题。本文提出一种新颖的代价函数，称为混合可分性损失（mixture separability loss, MSL），即使大多数训练图像被准确预测，它也能更新网络的权重。MSL 由类间损失和类内损失组成。类间损失最大化类间图像的差异，而类内损失最小化类内图像的相似性。我们设计了所提出的损失函数以附加到网络中的不同卷积层，从而利用中间特征图。实验表明，带有 MSL 的网络深化了学习过程，并在一些公开数据集上取得了有前景的结果，如 Street View House Number (SVHN)、Canadian Institute for Advanced Research (CIFAR) 以及我们自行收集的 Inha Computer Vision Lab (ICVL) 性别数据集。
引用
@article{arxiv.1906.06633,
title = {Mixture separability loss in a deep convolutional network for image classification},
author = {Trung Dung Do and Cheng-Bin Jin and Hakil Kim and Van Huan Nguyen},
journal= {arXiv preprint arXiv:1906.06633},
year = {2019}
}
备注
8 pages, 9 figures