最终对数对数时间 regret：亚高斯混合模型的准确定性 $\ln\ln T$ regret

我们证明，罗布斯于某些情况下提出的经典亚高斯混合模型在随机环境下实际上满足路径相关（确定性）regret上界。对于每一个位于自然“Ville 事件” $\mathcal E_\alpha$ 中的路径，直到时间 $T$ 的regret上限为 $\ln^2(1/\alpha)/V_T + \ln (1/\alpha) + \ln \ln V_T$（系数为普适常数），其中 $V_T$ 为非负、单调递增的累计方差过程。（若 $V_T \geq \ln(1/\alpha)$，则该上界简化为 $\ln(1/\alpha) + \ln \ln V_T$。）若数据为随机，则可证明 $\mathcal E_\alpha$ 在广泛的分布类（例如：亚高斯分布、对称分布、方差有界分布等）下至少具有概率 $1-\alpha$。事实上，我们表明在概率为1的 Ville 事件 $\mathcal E_0$ 上，$\mathcal E_0$ 中每一条路径的regret最终被 $\ln \ln V_T$ 所支配（系数为普适常数）。我们解释了本工作如何帮助搭建对抗性在线学习（通常处理有界数据的regret上界）与博弈论统计（可处理无界数据，尽管需依赖随机假设）之间的鸿沟。简而言之，条件regret上界作为连接随机与对抗性博弈的桥梁。