Stiefel 流形上优化的自适应局部化 Cayley 参数化方法
最优化与控制
2023-05-30 v1
摘要
我们提出一种针对 Stiefel 流形上优化问题的自适应参数化策略,利用广义 Cayley 变换高效使用强大的欧氏优化算法。广义 Cayley 变换可将 Stiefel 流形的一个开稠密子集映射到一个向量空间,该开稠密子集由称为中心点的可调参数确定。借助广义 Cayley 变换,我们近期提出了朴素 Cayley 参数化,将 Stiefel 流形上的优化问题重新表述为向量空间上的优化问题。尽管该重构使我们能够移植强大的欧氏优化算法,但中心点的不当选择可能导致其收敛缓慢。为避免此类慢收敛,本文提出自适应估计“良好”中心点,从而更快求解重构后的问题。我们还针对所提自适应参数化策略中采用相当标准的欧氏优化算法的情况,给出了关于梯度的统一收敛性分析。数值实验表明:(i) 所提策略成功摆脱了朴素 Cayley 参数化策略中观察到的慢收敛;(ii) 所提策略优于采用收缩映射的标准策略。
引用
@article{arxiv.2305.17901,
title = {Adaptive Localized Cayley Parametrization for Optimization over Stiefel Manifold},
author = {Keita Kume and Isao Yamada},
journal= {arXiv preprint arXiv:2305.17901},
year = {2023}
}
备注
29 pages, 4 figures, 4 tables