时变倾向得分:弥合过去与现在的鸿沟
机器学习
2024-05-03 v5
摘要
机器学习模型在真实世界的部署具有挑战性,因为数据随时间演化。尽管在数据任意演化时任何模型都无法奏效,但如果这些变化存在某种模式,我们或能设计方法来应对。本文探讨数据逐渐演化的情况。我们引入一种时变倾向得分,可检测数据分布的渐变,从而让我们能够选择性地采样过去数据来更新模型——不仅像标准倾向得分那样选取过去相似的数据,还包括过去以相似方式演化的数据。时变倾向得分具有相当的通用性:我们展示了多种实现方式,并在各类问题上进行评估,从经历连续渐变的数据的监督学习(如图像分类问题),到随策略或任务变化而发生数据偏移的强化学习任务(如机器人操控与连续控制)。
引用
@article{arxiv.2210.01422,
title = {Time-Varying Propensity Score to Bridge the Gap between the Past and Present},
author = {Rasool Fakoor and Jonas Mueller and Zachary C. Lipton and Pratik Chaudhari and Alexander J. Smola},
journal= {arXiv preprint arXiv:2210.01422},
year = {2024}
}
备注
Published at ICLR 2024