中文

在线自协调与相对光滑最小化及其在在线投资组合选择与量子态学习中的应用

机器学习 2023-09-22 v3 机器学习 最优化与控制 投资组合管理 量子物理

摘要

考虑一个在线凸优化问题,其中损失函数为自协调障碍函数,相对于凸函数 hh 光滑,且可能非 Lipschitz。我们分析了基于 hh 的在线镜像下降的遗憾(regret)。随后,基于该结果,我们以统一的方式证明了以下结论。记 TT 为时间范围,dd 为参数维度。1. 对于在线投资组合选择,Helmbold 等人提出的指数梯度变体 EG~\widetilde{\text{EG}}T>4d/logdT > 4 d / \log d 时的遗憾为 O~(T2/3d1/3)\tilde{O} ( T^{2/3} d^{1/3} )。这改进了 EG~\widetilde{\text{EG}} 原有的 O~(T3/4d1/2)\tilde{O} ( T^{3/4} d^{1/2} ) 遗憾界。2. 对于在线投资组合选择,基于对数障碍函数的在线镜像下降的遗憾为 O~(Td)\tilde{O}(\sqrt{T d})。该遗憾界与 Orseau 等人提出的 Soft-Bayes 的遗憾界在对数项内相同。3. 对于具有对数损失的在线量子态学习,基于对数行列式函数的在线镜像下降的遗憾同样为 O~(Td)\tilde{O} ( \sqrt{T d} )。其每次迭代时间比我们已知的所有现有算法都更短。

关键词

引用

@article{arxiv.2210.00997,
  title  = {Online Self-Concordant and Relatively Smooth Minimization, With Applications to Online Portfolio Selection and Learning Quantum States},
  author = {Chung-En Tsai and Hao-Chung Cheng and Yen-Huan Li},
  journal= {arXiv preprint arXiv:2210.00997},
  year   = {2023}
}

备注

34th Int. Conf. Algorithmic Learning Theory (ALT 2023). A typo in the last equation in the proof of Lemma 10 is corrected