DSReLU：一种用于优越模型训练的新型动态斜率函数
计算机视觉与模式识别
2024-08-20 v1
摘要
本研究引入了一种新型激活函数，其特点是在训练过程中动态调整斜率，旨在增强深度神经网络在计算机视觉任务中的适应性和性能。该方法的基本原理是通过提供一种更灵活的机制来适应学习过程的不同阶段，从而克服传统激活函数（如 ReLU）的局限性。在 Mini-ImageNet、CIFAR-100 和 MIT-BIH 数据集上的评估表明，我们的方法在分类指标和泛化能力方面均有提升。这些结果表明，我们的动态斜率激活函数可以为提高深度学习模型在各种图像识别任务中的性能提供一种新工具。
引用
@article{arxiv.2408.09156,
title = {DSReLU: A Novel Dynamic Slope Function for Superior Model Training},
author = {Archisman Chakraborti and Bidyut B Chaudhuri},
journal= {arXiv preprint arXiv:2408.09156},
year = {2024}
}
备注
Under peer review at ICPR, 2024