AdaBoost 概述:调和其多种视角以更好理解其动力学
机器学习
2023-10-31 v1 机器学习
摘要
提升方法于 1980 年代末被提出,其诞生源于 PAC 学习的理论层面。提升方法的主要思想是通过组合弱学习器来获得强学习器。弱学习器由一种启发式方法迭代获得,该方法试图纠正前一个弱学习器的错误。1995 年,Freund 与 Schapire [18] 提出了 AdaBoost,这一提升算法至今仍被广泛使用。自那时起,人们提出了许多该算法的视角以妥善驾驭其动力学。在本文中,我们将尝试涵盖关于 AdaBoost 所能拥有的全部视角。我们将从 Freund 与 Schapire 的原始视角出发,再覆盖不同视角并以同一形式体系将其统一。我们希望本文能帮助非专业读者更好地理解 AdaBoost 的动力学,以及不同视角如何等价并相互关联。
引用
@article{arxiv.2310.18323,
title = {Overview of AdaBoost : Reconciling its views to better understand its dynamics},
author = {Perceval Beja-Battais},
journal= {arXiv preprint arXiv:2310.18323},
year = {2023}
}