动态演化环境下的最优经验风险最小化
统计方法学
2025-07-18 v1 机器学习
摘要
时间分布漂移是机器学习模型在动态演化环境中训练与部署的关键挑战。本文引入 RIDER (RIsk minimization under Dynamically Evolving Regimes)，在时间分布漂移条件下推导最优加权经验风险最小化程序。我们的方法在随机分布漂移模型中得到理论依据，该模型中随机漂移源于数据生成过程众多不可预测变化的叠加。我们指出，常见的加权方案（如合并所有数据、指数加权数据或仅使用最新数据）在本框架下自然呈现为特殊案例。我们展示，RIDER 在野外时间数据集 (Wild-Time) 中的若干基准方法上作为微调步骤时，能持续改善超样本预测性能。此外，我们表明 RIDER 在预测股票市场波动性和预测纽约出租车行程持续时间等两个实际任务中，优于标准加权策略。
引用
@article{arxiv.2507.13287,
title = {Optimal Empirical Risk Minimization under Temporal Distribution Shifts},
author = {Yujin Jeong and Ramesh Johari and Dominik Rothenhäusler and Emily Fox},
journal= {arXiv preprint arXiv:2507.13287},
year = {2025}
}