Nesterov 加速技术在集团卡尔曼反演及其变体中的应用
最优化与控制
2025-07-04 v2 机器学习
统计计算
摘要
集团卡尔曼反演（Ensemble Kalman Inversion, EKI）是一种无导数、基于粒子的逆问题求解方法。已证明 EKI 对梯度流的近似，使得可以将梯度下降的加速方法应用于其中。本文表明，Nesterov 加速在多种逆问题中有效加快 EKI 成本函数的减少速度。我们还为两种 EKI 变体——无迹卡尔曼反演和集团转换卡尔曼反演实现了 Nesterov 加速。我们的具体实现形式为一种粒子级的微调机制， demonstrably 简单易于以黑盒方式与任何现有的 EKI 变体算法集成，无需额外的计算开销，也无需额外的调参超参数。本工作表明，将梯度优化领域的进展转化为梯度-free 卡尔曼优化进展的可能性之路。
关键词
引用
@article{arxiv.2501.08779,
title = {Nesterov Acceleration for Ensemble Kalman Inversion and Variants},
author = {Sydney Vernon and Eviatar Bach and Oliver R. A. Dunbar},
journal= {arXiv preprint arXiv:2501.08779},
year = {2025}
}