使用组合镜像映射提高在线镜像梯度的 regret 下界

OMD 及其变体为 OCO 提供了灵活框架，其性能严重依赖于镜像映射的选择。虽然 OPGD 与 OEG 两种特殊情况（即 OMD）所对应的几何结构已被良好理解，但如何为给定约束集和一般损失函数族（如稀疏损失）构造最优镜像映射，仍是一个具有挑战性的开放问题。为了对准近最优镜像映射集合进行参数化，我们考虑一个更简单的问题：是否存在通过使用介于 $L_1$ 与 $L_2$ 之间的镜像映射，在 regret 上实现多项式收益？而仅依赖 OEG（$L_1$）或 OPGD（$L_2$）则可能无法做到。我们的主要结果对此问题给出了肯定回答。我们表明，基于块范数（block norm）的镜像映射在适应稀疏损失函数方面，优于以前基于 $L_p$（$p \in [1, 2]$）插值的镜像映射。具体而言，我们构造了一个在 $\mathbb{R}^d$ 中的一族在线凸优化问题，其中基于块范数的镜像映射相对于 OEG 和 OPGD 在稀疏损失函数下实现了显著的多项式（随 $d$ 增长）regret 改进。随后我们考虑稀疏度未知的情况。在这种情况下，几何选择本身变成一个在线决策问题。我们首先指出，仅仅在 OEG 与 OPGD 之间进行粗略切换可能导致线性 regret，这凸显了几何选择的内在困难。为克服此问题，我们提出一种基于乘性权重（multiplicative weights）的元算法，动态地在一族均匀块范数中进行选择。我们表明，该方法能够有效地根据损失的稀疏度调整 OMD，从而获得自适应 regret 下界。总体而言，我们的结果表明，在线镜像映射选择显著增强了 OMD 利用 OCO 中稀疏性的能力。