非凸光滑性条件的最新进展及其在深度线性神经网络中的适用性
机器学习
2024-09-23 v1 最优化与控制
摘要
深度学习产生的光滑优化问题中非凸性的存在，催生了文献中新的光滑性条件及相应的收敛性分析。我们讨论了这些光滑性条件，对它们进行了排序，提供了判断它们是否成立的条件，并评估了它们在训练用于二分类的深度线性神经网络中的适用性。
引用
@article{arxiv.2409.13672,
title = {Recent Advances in Non-convex Smoothness Conditions and Applicability to Deep Linear Neural Networks},
author = {Vivak Patel and Christian Varner},
journal= {arXiv preprint arXiv:2409.13672},
year = {2024}
}