中文

基于信任衰减的 KL 偏移下的应力感知学习

机器学习 2025-10-20 v1 统计理论 统计理论

摘要

我们研究分布漂移下的序列决策问题。提出熵正则化信任衰减方法,將应力感知的指数倾斜注入信念更新与镜像下降决策中。在单红形上,基于 Fenchel 对偶等价性,证明信念倾斜与决策倾斜相等。我们通过脆弱性(KL 球中最坏情形下的剩余风险)、信念带宽(维持目标剩余风险的半径)以及决策空间脆弱性指数(在 O(T)O(\sqrt{T}) 注册风险下容忍的漂移)来形式化鲁棒性。我们证明了高概率灵敏度界,并在 KL 漂移路径长度 ST=t2KL(DtDt1)/2S_T = \sum_{t\ge2}\sqrt{{\rm KL}(D_t|D_{t-1})/2} 下,建立了 O~(T)\tilde{O}(\sqrt{T}) 的动态注册保证。具体而言,信任衰减实现 O(1)O(1) 的每切换注册损失,而无应力更新则产生 Ω(1)\Omega(1) 的尾部。无参数 hedge 适应未知漂移,而持续过度倾斜则导致 Ω(λ2T)\Omega(\lambda^2 T) 的稳态惩罚。我们进一步获得校准应力界限,并拓展到二阶更新、bandit 反馈、离群点、应力变化、分布优化以及插拔式 KL 漂移估计。该框架统一了动态注册分析、分布式鲁棒目标与 KL 正则化控制于单一应力自适应更新之中。

关键词

引用

@article{arxiv.2510.15222,
  title  = {Stress-Aware Learning under KL Drift via Trust-Decayed Mirror Descent},
  author = {Gabriel Nixon Raj},
  journal= {arXiv preprint arXiv:2510.15222},
  year   = {2025}
}