深度神经网络的可学习多项式激活函数
最优化与控制
2025-10-07 v1
摘要
激活函数是深度神经网络的关键因素。本工作将训练带有可学习多项式激活函数的神经网络问题框架化为多项式优化问题,可通过 Moment-SOS 层次结构求解。这一工作代表了对传统深度神经网络训练范式的根本性不同,后者依赖于如反向传播和梯度下降等局部优化方法。 presented for demonstrating the accuracy and robustness of optimum parameter recovery in presence of noises.
引用
@article{arxiv.2510.03682,
title = {Learning Polynomial Activation Functions for Deep Neural Networks},
author = {Linghao Zhang and Jiawang Nie and Tingting Tang},
journal= {arXiv preprint arXiv:2510.03682},
year = {2025}
}
备注
10 pages