基于通用硬币投注的含边信息无参数在线线性优化
信息论
2022-02-08 v1 机器学习
math.IT
最优化与控制
摘要
提出了一类无参数在线线性优化算法,其通过适应某些边信息来利用对抗性序列的结构。这些算法将 Orabona 与 P{\'a}l(2016)用于将硬币投注算法适配于在线线性优化的归约技术,与信息论中用于将序列边信息纳入硬币投注的通用压缩技术相结合。研究了具体示例,其中边信息具有树结构并由对抗性序列前续符号的量化值构成,包括固定阶与可变阶马尔可夫情形。通过修正 Willems、Shtarkov 与 Tjalkens(1995)的上下文树加权技术,所提算法被进一步优化,以计算高效的方式在给定最大阶的所有具树结构边信息的自适应算法上取得最佳性能。
引用
@article{arxiv.2202.02406,
title = {Parameter-free Online Linear Optimization with Side Information via Universal Coin Betting},
author = {J. Jon Ryu and Alankrita Bhatt and Young-Han Kim},
journal= {arXiv preprint arXiv:2202.02406},
year = {2022}
}
备注
23 pages, 5 figures, to appear at AISTATS 2022