RIFLE:基于低阶边缘分布的插补与鲁棒推断
机器学习
2023-09-14 v3 数学软件
摘要
真实数据集中缺失值的普遍存在给统计推断带来挑战,并可能阻碍相似数据集在同一研究中被分析,使许多现有数据集无法用于新的分析。尽管已开发大量用于数据插补的包与算法,但绝大多数在缺失值多且样本量小时表现糟糕,而不幸的是这正是经验数据的常见特征。此类低精度估计会对下游统计模型的性能产生不利影响。我们开发了一种无需插补、在缺失数据下进行回归与分类的统计推断框架。我们的框架 RIFLE(Robust InFerence via Low-order moment Estimations,基于低阶矩估计的鲁棒推断)估计底层数据分布的低阶矩并给出相应置信区间,以学习分布鲁棒模型。我们将框架专门化到线性回归与正态判别分析,并给出收敛性与性能保证。该框架也可用于插补缺失数据。在数值实验中,我们将 RIFLE 与若干最先进方法(包括 MICE、Amelia、MissForest、KNN-imputer、MIDA 与 Mean Imputer)就缺失值下的插补与推断进行比较。实验表明,当缺失值比例高和/或数据点数相对少时,RIFLE 优于其他基准算法。RIFLE 公开于 https://github.com/optimization-for-data-driven-science/RIFLE。
引用
@article{arxiv.2109.00644,
title = {RIFLE: Imputation and Robust Inference from Low Order Marginals},
author = {Sina Baharlouei and Kelechi Ogudu and Sze-chuan Suen and Meisam Razaviyayn},
journal= {arXiv preprint arXiv:2109.00644},
year = {2023}
}
备注
36 pages, 11 figures