K-bMOM：一种基于自助中位数均值的有鲁棒性的 Lloyd 型聚类算法
统计方法学
2020-08-20 v2 机器学习
摘要
我们提出一种新的聚类算法，对数据集中存在离群点具有鲁棒性。我们采用对质心进行鲁棒估计的 Lloyd 型迭代。更确切地说，我们基于中位数均值统计量的思想来估计质心，但在构造块时允许替换。我们称此方法为自助中位数均值（bMOM），并证明若通过自助采样生成足够多的块，则其均值估计的崩溃点优于经典的中位数均值（MOM）——后者的块构成数据集的一个划分。从聚类角度看，bMOM 可取许多所需大小的块，从而避免了某些块中簇的可能消失，而这是经典中位数均值基于划分的块生成会发生的缺陷。在模拟数据集上的实验表明，所提方法（称为 K-bMOM）优于现有的基于鲁棒 K-means 的方法。文中给出了实践中调参 K-bMOM 超参数的指导建议。也建议实践者使用此种鲁棒方法初始化其聚类算法。最后，考虑我们估计量的一个简化理论版本，我们通过推导 K-means 畸变的鲁棒收敛速率，证明了其对对抗污染的鲁棒性。据我们所知，这是针对 K-means 畸变的首个此类结果。
引用
@article{arxiv.2002.03899,
title = {K-bMOM: a robust Lloyd-type clustering algorithm based on bootstrap Median-of-Means},
author = {Camille Brunet-Saumard and Edouard Genetay and Adrien Saumard},
journal= {arXiv preprint arXiv:2002.03899},
year = {2020}
}