中文

通过贴现实现的动态环境下在线线性回归

机器学习 2024-05-30 v1 机器学习

摘要

我们开发了用于在线线性回归的算法,即使在完全没有先验知识的情况下,也能实现最优的静态和动态 regret guarantees。我们提出了一种新颖的分析,表明贴现变体的 Vovk-Azoury-Warmuth 预测器可实现动态 regret 为 RT(u)O(dlog(T)dPTγ(u)T)R_{T}(\vec{u})\le O\left(d\log(T)\vee \sqrt{dP_{T}^{\gamma}(\vec{u})T}\right),其中 PTγ(u)P_{T}^{\gamma}(\vec{u}) 是比较序列变动性的度量,并展示实现该结果的贴现因子可在运行中学习。我们还通过提供匹配的下界表明此结果最优。我们还将结果扩展到对每个子区间 [a,b][1,T][a,b]\subseteq[1,T] 同时保持强适应性保证。

关键词

引用

@article{arxiv.2405.19175,
  title  = {Online Linear Regression in Dynamic Environments via Discounting},
  author = {Andrew Jacobsen and Ashok Cutkosky},
  journal= {arXiv preprint arXiv:2405.19175},
  year   = {2024}
}

备注

ICML 2024, 38 pages