MBGDT：鲁棒的小批量梯度下降
机器学习
2022-06-16 v1 人工智能
摘要
在高维空间中，大多数机器学习方法即使只有少量异常值也会表现脆弱。为此，我们希望引入一种以贝叶斯回归或随机梯度下降等基学习器为基础的新方法来解决模型脆弱性问题。由于小批量梯度下降比批量梯度下降具有更鲁棒的收敛性，我们基于小批量梯度下降提出了一种方法，称为带裁剪的小批量梯度下降（MBGDT）。我们将该方法应用于设计的数据集时，其表现出最先进的性能，并且比几种基线方法具有更强的鲁棒性。
引用
@article{arxiv.2206.07139,
title = {MBGDT:Robust Mini-Batch Gradient Descent},
author = {Hanming Wang and Haozheng Luo and Yue Wang},
journal= {arXiv preprint arXiv:2206.07139},
year = {2022}
}