MONK——基于中值均值法（median-of-means）的离群鲁棒均值嵌入估计
机器学习
2019-05-17 v4 信息论
泛函分析
math.IT
统计理论
统计理论
摘要
均值嵌入（mean embeddings）在机器学习与统计学中提供了一种极其灵活且强大的工具，用于表示概率分布并定义半度量（MMD，最大均值差异；也称为 N-距离或能量距离），具有众多成功应用。该表示构造为核所定义的特征映射的期望。然而，作为均值，其经典的实证估计量在特征无界的情况下，即便单个离群点也可能造成任意严重的偏差。遗憾的是，据我们所知，现有少数试图缓解这一严重敏感性瓶颈的技术，其一致性甚至未知。在本文中，我们展示了如何利用近年来出现的中值均值法（median-of-means）原理来设计具有极强离群抵抗特性的核均值嵌入与 MMD 估计量，并在温和假设下得到最优的次高斯偏差界。
引用
@article{arxiv.1802.04784,
title = {MONK -- Outlier-Robust Mean Embedding Estimation by Median-of-Means},
author = {Matthieu Lerasle and Zoltan Szabo and Timothee Mathieu and Guillaume Lecue},
journal= {arXiv preprint arXiv:1802.04784},
year = {2019}
}
备注
ICML-2019: camera-ready paper. Code: https://bitbucket.org/TimotheeMathieu/monk-mmd