预测的插值：警惕收益递减
人工智能
2025-02-21 v2 机器学习
机器学习
摘要
缺失值在 various fields中普遍存在，为训练和部署预测模型带来挑战。在此背景下，插值是常见做法，旨在通过准确插值来提高预测。然而，最近的理论和实证研究表明，简单恒定插值在一致性和竞争力方面都可以。本实证研究旨在澄清在何种情况下投资于先进插值方法才能获得显著更好的预测。我们在19个数据集上将插值和预测准确性跨组合进行关联，显示插值准确性重要性较小 i) 在使用表达性强的模型时，ii) 在将缺失性指示符作为补充输入纳入时，iii) 对生成线性结果的影响大于对真实数据结果的影响。有趣的是，我们还发现即使在MCAR情形下，使用缺失性指示符也有助于提高预测性能。总体而言，在强大模型下使用真实数据，提高插值仅对预测性能影响较小。因此，为提高预测而投资于更好的插值往往提供有限的收益。
引用
@article{arxiv.2407.19804,
title = {Imputation for prediction: beware of diminishing returns},
author = {Marine Le Morvan and Gaël Varoquaux},
journal= {arXiv preprint arXiv:2407.19804},
year = {2025}
}