主动标注：流式随机梯度
机器学习
2022-12-08 v3 人工智能
信息检索
机器学习
摘要
机器学习的支柱是随机梯度下降。为获取随机梯度，通常考虑迭代访问训练数据集的输入/输出对。有趣的是，似乎并不需要完全监督即可获取随机梯度，这是本文的主要动机。在形式化聚焦于部分监督主动学习的“主动标注”问题后，我们提供了一种流式技术，可证明地最小化泛化误差与样本数之比。我们在鲁棒回归中深入阐释了该技术。
引用
@article{arxiv.2205.13255,
title = {Active Labeling: Streaming Stochastic Gradients},
author = {Vivien Cabannes and Francis Bach and Vianney Perchet and Alessandro Rudi},
journal= {arXiv preprint arXiv:2205.13255},
year = {2022}
}
备注
38 pages (9 main pages), 9 figures