一种基于非线性动量的方法用于梯度下降及其在逆光子设计中的应用
计算物理
2026-02-09 v2 光学
摘要
在本工作中，引入一种非线性动量方法以提高基于动量的梯度优化算法的收敛性能。经典动量方法，如 Heavy Ball 方法，可视为具有二次动能和线性阻尼的动力系统。通过将这一类比扩展至非牛顿动力系统，我们构建了优化问题的哈密顿框架。在该框架中，nonlinear 动能和 nonlinear 阻尼效应自然出现。这提供了一种更灵活且具有物理解释性的优化算法机制。具体而言，我们采用 anharmonic 动能函数来捕捉在优化过程中累积梯度信息的惯性效应，而 non-linear 阻尼机制有效调节收敛期间动量的贡献。数值实验表明，所提方法在收敛速度上优于经典动量算法，尤其适用于逆设计任务。此外，基于哈密顿的算法框架可能为开发高效的 physics-inspired 优化算法提供物理洞见。
引用
@article{arxiv.2511.16441,
title = {A physics-inspired nonlinear momentum method for gradient descent with applications to inverse photonic design},
author = {Jianing Zhang and Rumei Liu},
journal= {arXiv preprint arXiv:2511.16441},
year = {2026}
}