用于视觉识别的漏斗型激活函数
计算机视觉与模式识别
2020-07-27 v2
摘要
我们提出了一种概念简单但有效的用于图像识别任务的漏斗型激活函数，称为漏斗型激活（FReLU），它通过将可忽略的空间条件开销加入，将 ReLU 和 PReLU 扩展为二维激活。ReLU 和 PReLU 的形式分别为 y = max(x, 0) 和 y = max(x, px)，而 FReLU 的形式为 y = max(x,T(x))，其中 T(x) 为二维空间条件。此外，该空间条件以简单方式实现了像素级建模能力，利用常规卷积捕获复杂的视觉布局。我们在 ImageNet、COCO 检测以及语义分割任务上进行了实验，展示了 FReLU 在视觉识别任务中的显著提升与鲁棒性。代码见 https://github.com/megvii-model/FunnelAct。
引用
@article{arxiv.2007.11824,
title = {Funnel Activation for Visual Recognition},
author = {Ningning Ma and Xiangyu Zhang and Jian Sun},
journal= {arXiv preprint arXiv:2007.11824},
year = {2020}
}
备注
ECCV 2020