基于振荡激活函数评估 CNN 性能
机器学习
2022-11-15 v1 计算机视觉与模式识别
神经与进化计算
摘要
CNN 能够从图像中学习高维复杂特征的原因在于激活函数引入的非线性。人们已发现若干先进激活函数以改善神经网络的训练过程，因为选择激活函数是建模中的关键一步。近期研究受人类大脑皮层启发，提出使用振荡激活函数来解决分类问题。本文探讨了其中一种 CNN 架构 AlexNet 在 MNIST 与 CIFAR10 数据集上，使用振荡激活函数（GCU）及其他常用激活函数如 ReLu、PReLu 和 Mish 的性能。
引用
@article{arxiv.2211.06878,
title = {Evaluating CNN with Oscillatory Activation Function},
author = {Jeevanshi Sharma},
journal= {arXiv preprint arXiv:2211.06878},
year = {2022}
}
备注
6 pages, 5 figures