AdamZ：一种增强型神经网络训练优化方法

AdamZ是Adam优化器的一种高级变体，旨在增强神经网络训练中的收敛效率。该优化器通过纳入机制来动态调整学习率，以解决优化中常见的超调和停滞问题。具体而言，AdamZ在检测到超调时会降低学习率，在停滞期间会增加学习率，利用超参数如超调因子、停滞因子、阈值和耐心水平来指导这些调整。虽然AdamZ可能导致与某些其他优化器相比的稍长训练时间，但它在最小化损失函数方面始终表现出色，特别适用于精度至关重要的应用。基准测试结果表明，AdamZ在保持最佳学习率方面有效，导致在 diverse 任务上实现改进的模型性能。