在线学习中的梯度均衡：理论与应用
机器学习
2025-02-19 v3 最优化与控制
统计理论
机器学习
统计理论
摘要
我们提出了一种关于在线学习的新视角，称为梯度均衡：如果一系列迭代的沿序列损失梯度的平均值收敛到零，则该序列实现了梯度均衡。一般情况下，这一条件不等于亚线性后悔，也不被亚线性后悔所暗示。事实证明，梯度均衡可以通过标准在线学习方法实现，如具有常数步长的梯度下降和镜像下降（而通常为实现无后悔所需的衰减步长）。进一步地，正如我们通过示例所展示的，梯度均衡在回归、分类、分位数估计等各种在线预测问题中可转化为可解释且有意义的属性。值得注意的是，我们展示了梯度均衡框架可用于开发针对任意分布迁移下的黑盒预测的去偏方案，基于简单的事后在线下降更新。我们还表明，事后梯度更新可用于在分布迁移下校准预测的分位数，并且该框架导致针对两两偏好预测的无偏Elo分数。
引用
@article{arxiv.2501.08330,
title = {Gradient Equilibrium in Online Learning: Theory and Applications},
author = {Anastasios N. Angelopoulos and Michael I. Jordan and Ryan J. Tibshirani},
journal= {arXiv preprint arXiv:2501.08330},
year = {2025}
}
备注
Code available at https://github.com/aangelopoulos/gradient-equilibrium/