ReMasker:基于掩码自编码的表格数据插补方法
机器学习
2023-09-26 v1
摘要
我们提出 ReMasker,一种通过扩展掩码自编码框架来插补表格数据中缺失值的新方法。与先前工作相比,ReMasker 既简单——除缺失值(即自然掩码)外,我们随机“重新掩码”另一组值,通过重建该重新掩码集合来优化自编码器,并应用训练好的模型预测缺失值;又有效——在基准数据集上的广泛评估表明,在各种缺失机制设置下,ReMasker 在插补保真度与效用方面均与最先进方法相当或优于它们,且其性能优势常随缺失数据比例增大而提升。我们进一步探讨其有效性的理论依据,表明 ReMasker 倾向于学习表格数据的缺失机制不变表示。我们的发现指出,掩码建模代表了表格数据插补进一步研究的一个有前景方向。代码已公开可用。
引用
@article{arxiv.2309.13793,
title = {ReMasker: Imputing Tabular Data with Masked Autoencoding},
author = {Tianyu Du and Luca Melis and Ting Wang},
journal= {arXiv preprint arXiv:2309.13793},
year = {2023}
}