DeltaGrad:机器学习模型的快速重训练
机器学习
2020-07-02 v2 机器学习
摘要
机器学习模型并非静态的,可能需要在略有变化的数据集上重新训练,例如添加或删除一组数据点。这有许多应用,包括隐私、鲁棒性、偏差降低和不确定性量化。然而,从头开始重新训练模型代价高昂。为解决此问题,我们提出了DeltaGrad算法,基于训练阶段缓存的信息实现机器学习模型的快速重训练。我们为DeltaGrad的有效性提供了理论和实证支持,并表明其与最先进水平(SOTA)相比具有优势。
引用
@article{arxiv.2006.14755,
title = {DeltaGrad: Rapid retraining of machine learning models},
author = {Yinjun Wu and Edgar Dobriban and Susan B. Davidson},
journal= {arXiv preprint arXiv:2006.14755},
year = {2020}
}