基于信任衰减的 KL 偏移下的应力感知学习
机器学习
2025-10-20 v1 统计理论
统计理论
摘要
我们研究分布漂移下的序列决策问题。提出熵正则化信任衰减方法,將应力感知的指数倾斜注入信念更新与镜像下降决策中。在单红形上,基于 Fenchel 对偶等价性,证明信念倾斜与决策倾斜相等。我们通过脆弱性(KL 球中最坏情形下的剩余风险)、信念带宽(维持目标剩余风险的半径)以及决策空间脆弱性指数(在 注册风险下容忍的漂移)来形式化鲁棒性。我们证明了高概率灵敏度界,并在 KL 漂移路径长度 下,建立了 的动态注册保证。具体而言,信任衰减实现 的每切换注册损失,而无应力更新则产生 的尾部。无参数 hedge 适应未知漂移,而持续过度倾斜则导致 的稳态惩罚。我们进一步获得校准应力界限,并拓展到二阶更新、bandit 反馈、离群点、应力变化、分布优化以及插拔式 KL 漂移估计。该框架统一了动态注册分析、分布式鲁棒目标与 KL 正则化控制于单一应力自适应更新之中。
引用
@article{arxiv.2510.15222,
title = {Stress-Aware Learning under KL Drift via Trust-Decayed Mirror Descent},
author = {Gabriel Nixon Raj},
journal= {arXiv preprint arXiv:2510.15222},
year = {2025}
}