不平衡数据上过于乐观的预测结果:过采样应用中的缺陷与益处案例研究
信号处理
2020-12-07 v2 机器学习
机器学习
摘要
从电 hysterography 记录中提取的信息可能成为估计早产风险的有趣附加信息来源。近来,大量研究报道了利用称为 Term/Preterm Electrohysterogram 数据库的公开资源,以近乎完美的结果区分将足月或早产患者的记录。然而,我们认为这些结果由于所犯的方法论缺陷而过于乐观。本工作中,我们关注一种特定类型的方法论缺陷:在将数据划分为互斥的训练集和测试集之前应用过采样。我们使用两个人工数据集展示了这如何导致结果偏倚,并复现了已识别该缺陷的研究中的结果。此外,我们使用相关研究的相同方法,评估了在数据划分前应用过采样对预测性能的实际影响,以提供这些方法论泛化能力的现实视角。我们通过以开放许可提供所有代码使我们的研究可复现。
引用
@article{arxiv.2001.06296,
title = {Overly Optimistic Prediction Results on Imbalanced Data: a Case Study of Flaws and Benefits when Applying Over-sampling},
author = {Gilles Vandewiele and Isabelle Dehaene and György Kovács and Lucas Sterckx and Olivier Janssens and Femke Ongenae and Femke De Backere and Filip De Turck and Kristien Roelens and Johan Decruyenaere and Sofie Van Hoecke and Thomas Demeester},
journal= {arXiv preprint arXiv:2001.06296},
year = {2020}
}