基于平方根熵的顺序概率分配的最小后悔
机器学习
2025-03-25 v1 信息论
math.IT
机器学习
摘要
我们研究了在对数损失下进行顺序概率分配的问题，无论是否包含侧信息。我们的目标是以几何量的形式（如覆盖数和尺度敏感维数）分析最小后悔——一种在文献中广泛研究的概念。我们表明，对于无侧信息情况（等效于Shtarkov和）的最小后悔，可用顺序平方根熵进行上界，这一概念与Hellinger距离密切相关。对于带有侧信息的顺序概率分配问题，我们基于上述熵 developing了上界和下界。对于处于Dons克尔 regime（根据我们对熵的定义）的类，下界与上界在对数因子的量级上相匹配。
引用
@article{arxiv.2503.17823,
title = {On the Minimax Regret of Sequential Probability Assignment via Square-Root Entropy},
author = {Zeyu Jia and Yury Polyanskiy and Alexander Rakhlin},
journal= {arXiv preprint arXiv:2503.17823},
year = {2025}
}