重新审视图像分类中损失函数的特征分布
计算机视觉与模式识别
2018-03-09 v1
摘要
我们针对分类任务中的深度神经网络提出了大间隔高斯混合（L-GM）损失。与 softmax 交叉熵损失不同，我们的方案建立在训练集深度特征服从高斯混合分布的假设之上。通过引入分类间隔与似然正则化，L-GM 损失同时促进了高分类性能与训练特征分布的精确建模。因此，L-GM 损失优于 softmax 损失及其主要变体，原因在于除分类外，它还可基于对抗样本特征对训练特征分布的似然，轻易用于区分异常输入（如对抗样本）。在 MNIST、CIFAR、ImageNet 和 LFW 等多种识别基准以及对抗样本上的大量实验证明了我们方案的有效性。
引用
@article{arxiv.1803.02988,
title = {Rethinking Feature Distribution for Loss Functions in Image Classification},
author = {Weitao Wan and Yuanyi Zhong and Tianpeng Li and Jiansheng Chen},
journal= {arXiv preprint arXiv:1803.02988},
year = {2018}
}
备注
Accepted to CVPR 2018 as spotlight