ReCA:一种参数化 ReLU 复合激活函数
机器学习
2025-07-29 v2
摘要
激活函数被证明显著影响深度神经网络的性能。虽然线性整流单元(ReLU)仍是实践中的首选,但深度神经网络的最优激活函数仍是一个开放的研究问题。本文提出一种新型参数化激活函数 ReCA,基于 ReLU,已在使用不同复杂神经网络架构的基准数据集上超越所有基线方法。
引用
@article{arxiv.2504.08994,
title = {ReCA: A Parametric ReLU Composite Activation Function},
author = {John Chidiac and Danielle Azar},
journal= {arXiv preprint arXiv:2504.08994},
year = {2025}
}