在线镜像梯度中的近似隐藏成本
机器学习
2025-12-01 v1
摘要
在线镜像梯度（OMD）是优化、机器学习和序列决策中许多算法的基本范式。OMD 的迭代步骤通常是求解优化子问题的解，其中常常只能近似求解，从而导致算法的近似版本。尽管如此，现有的 OMD 分析通常假设理想的无误差环境，从而限制了我们对实际操作中应期待的性能保证的理解。本文我们系统性地研究近似 OMD，发现正则化函数的光滑性与对近似误差的鲁棒性之间存在复杂关系。当正则化函数为均匀光滑时，我们给出误差导致的超额后悔的紧密界限。随后，对于单纯形及其子集上的障壁正则化函数，我们识别出明显的分离：负熵需要指数级小误差以避免线性后悔，而对数屏障和 Tsallis 正则化函数即使误差仅为多项式也能保持鲁棒性。最后，我们表明当损失为随机且域为单纯形时，负熵可恢复鲁棒性——但此属性并不推广至所有子集，指数级小误差仍是避免次优后悔所必需的。
引用
@article{arxiv.2511.22283,
title = {The Hidden Cost of Approximation in Online Mirror Descent},
author = {Ofir Schlisselberg and Uri Sherman and Tomer Koren and Yishay Mansour},
journal= {arXiv preprint arXiv:2511.22283},
year = {2025}
}