对称锥上在线凸乘法的乘性更新
最优化与控制
2023-07-07 v1 机器学习
机器学习
摘要
我们研究在线凸优化，其中可行动作是对称锥中迹为一的元素，推广了被广泛研究的专家设定及其量子对应。对称锥为一些最重要的优化模型提供了统一框架，包括线性、二阶锥和半定优化。利用欧几里得 Jordan 代数领域的工具，我们引入了对称锥乘性权重更新（Symmetric-Cone Multiplicative Weights Update, SCMWU），一种用于任意对称锥迹一片上在线优化的无投影算法。我们表明 SCMWU 等价于以对称锥负熵为正则项的 Follow-the-Regularized-Leader 和 Online Mirror Descent。利用该结构结果，我们证明 SCMWU 是一种无遗憾算法，并通过大量实验验证了理论结果。我们的结果统一并推广了概率单纯形上的乘性权重更新方法以及密度矩阵集上的矩阵乘性权重更新方法的分析。
引用
@article{arxiv.2307.03136,
title = {Multiplicative Updates for Online Convex Optimization over Symmetric Cones},
author = {Ilayda Canyakmaz and Wayne Lin and Georgios Piliouras and Antonios Varvitsiotis},
journal= {arXiv preprint arXiv:2307.03136},
year = {2023}
}
备注
27 pages, 7 figures, 2 tables