仿射测地凸优化
最优化与控制
2025-08-20 v2 机器学习
数学软件
机器学习
摘要
凸优化在机器学习、数据科学和工程中发挥着基本作用。测试非线性规划中的凸性结构依赖于验证目标函数和约束的凸性。Grant 等人 (2006) 引入了一套框架——仿射凸优化 (DCP),用于自动化验证一系列可分解为基本凸函数(原子)的凸函数的凸性,该分解通过凸性保持的组合和变换(规则)实现。本文通过引入仿射测地凸优化 (DGCP),将该框架扩展到定义在曲率非正的流形(Hadamard 流形)上的函数。特别地,这允许验证更广泛的凸性概念。例如,许多统计估计器和矩阵值(子)程序在机器学习应用中是欧几里得非凸的,但通过更一般的黎曼几何视角表现出测地凸性。为定义 DGCP 框架,我们确定了在一般 Hadamard 流形上对测地凸函数的凸性保持组合和变换,以及针对特殊情况——对称正定矩阵(矩阵优化中常见的情形)的相应规则。对于后者,我们还定义了一套基本原子。本文附带一个 Julia 包 SymbolicAnalysis.jl,提供用于测试和认证 DGCP 合规表达式的功能。我们的库与流形优化软件接口,允许直接求解已验证的测地凸规划。
关键词
引用
@article{arxiv.2407.05261,
title = {Disciplined Geodesically Convex Programming},
author = {Andrew Cheng and Vaibhav Dixit and Melanie Weber},
journal= {arXiv preprint arXiv:2407.05261},
year = {2025}
}