L*ReLU：面向深度细粒度视觉分类的分段线性激活函数
机器学习
2019-10-29 v1 计算机视觉与模式识别
机器学习
摘要
深度神经网络在过去几年中为图像视觉分类的显著提升铺平了道路。然而，尽管任务高度多变、复杂性与难度各异，现有方案大多基于相同的架构决策。这也适用于激活函数（AFs）的选择，其中多数方法基于修正线性单元（ReLUs）。但在本文中，我们表明恰当AF的选择对分类精度有显著影响，尤其在细微细节至关重要时。因此，我们提出通过分段线性函数（称之为L*ReLU）利用AF对特征缺失与存在的程度进行建模。以此方式，我们可确保所需性质，同时仍从ReLUs继承计算效率方面的益处。我们在细粒度视觉分类（FGVC）任务上验证该方法，在七个不同基准数据集上实验。结果不仅展示了更优性能，也表明对于具有不同特征的不同任务，会选出不同的AFs。
引用
@article{arxiv.1910.12259,
title = {L*ReLU: Piece-wise Linear Activation Functions for Deep Fine-grained Visual Categorization},
author = {Mina Basirat and Peter M. Roth},
journal= {arXiv preprint arXiv:1910.12259},
year = {2019}
}
备注
Accepted: Winter Conference on Applications of Computer Vision (WACV) 2020