M$^3$-Impute:基于掩码引导的缺失值插补表示学习
机器学习
2024-10-14 v1 人工智能
摘要
缺失值是数据分析和机器学习中常见的问题,具有显著的挑战性,这需要开发有效的插补方法来准确填补缺失值,从而提升数据集的整体质量和实用性。然而,现有的插补方法在初始化嵌入阶段未能显式考虑“缺失性”信息,亦未在学习过程中建模 entangled 的特征和样本相关性,导致性能不佳。我们提出 M-Impute,旨在显式利用缺失性信息以及这些相关性,通过 novel masking 方案来实现。M-Impute 首先将数据建模为二分图,并使用图神经网络学习节点嵌入,其中 refined 的嵌入初始化过程直接融合了缺失性信息。随后,通过 M-Impute 的 novel feature correlation unit (FRU) 和 sample correlation unit (SRU) 对特征和样本相关性进行优化,以实现插补。实验结果在 25 个基准数据集上进行,分别在三种不同的缺失性设置下测试,显示 M-Impute 的有效性:平均情况下,它在 20 个最佳 MAE 评分和 4 个第二佳 MAE 评分上取得优异成绩。
引用
@article{arxiv.2410.08794,
title = {M$^3$-Impute: Mask-guided Representation Learning for Missing Value Imputation},
author = {Zhongyi Yu and Zhenghao Wu and Shuhan Zhong and Weifeng Su and S. -H. Gary Chan and Chul-Ho Lee and Weipeng Zhuo},
journal= {arXiv preprint arXiv:2410.08794},
year = {2024}
}