优化算法在深度图像分类中的有效性
计算机视觉与模式识别
2021-10-05 v1 机器学习
最优化与控制
摘要
Adam 被广泛用于训练神经网络。具有不同特性的各类 Adam 方法不断涌现。近来社区中引入了两种新的 adam 优化器，AdaBelief 和 Padam。我们分析这两种 adam 优化器，并将其与图像分类场景下的其他常规优化器（Adam、SGD + 动量）进行比较。我们在 EMNIST 数据集上使用 AlexNet 以及简化版的 VGGNet、ResNet 评估这些优化算法的性能。（基准算法见 \hyperref[https://github.com/chuiyunjun/projectCSC413]{https://github.com/chuiyunjun/projectCSC413}）。
引用
@article{arxiv.2110.01598,
title = {Effectiveness of Optimization Algorithms in Deep Image Classification},
author = {Zhaoyang Zhu and Haozhe Sun and Chi Zhang},
journal= {arXiv preprint arXiv:2110.01598},
year = {2021}
}