一种基于MOM的集成方法用于鲁棒性、子采样与超参数调优

超参数调优与模型选择是机器学习中的重要步骤。遗憾的是，经典的超参数校准与模型选择过程对离群值与重尾数据敏感。在本工作中，我们构建了一种可视为交叉验证的鲁棒替代的选择过程，其基于均值中位数(median-of-means)原理。利用该过程，我们还构建了一种集成方法，该方法以算法与受污染的重度重尾数据训练，选择一个算法，用大型未污染子样本训练之，并自动调优其超参数。该构建依赖于分而治之的方法论，使得给定受污染数据库时该方法易于扩展用于自动机器学习(autoML)。该方法以已知对离群值高度敏感的LASSO进行了测试。