中文

P 值的机器学习替代方案

机器学习 2017-02-22 v5 机器学习

摘要

本文提出了一种回归情境下 P 值的替代方法。该方法源于机器学习,基于用于预测误差的留一法自助法(leave-one-out bootstrap)。在机器学习中,这被称为袋外(OOB)误差。为了获得模型的 OOB 误差,需抽取一个自助样本并将模型拟合于样本内数据;然后利用样本外数据计算模型的预测误差,从而得到样本外预测误差。重复此过程并取平均值即得 OOB 误差,它代表了底层模型准确性的稳健交叉验证估计。通过对自助数据进行涉及“噪声化”变量的简单修改,OOB 方法可产生变量重要性(VIMP)指数,该指数直接衡量特定变量对模型预测精度的贡献程度。VIMP 提供了一种具有科学可解释性的变量效应量度量,我们称之为“预测效应量”,无论研究者的模型是否正确均成立,这与基于模型假设正确性计算的 P 值不同。我们还讨论了一种同样易于计算的边际 VIMP 指数,用于衡量变量的边际效应,或称“发现效应”。OOB 程序可应用于参数和非参数回归模型,仅要求研究者能够反复将模型拟合于自助数据和修改后的自助数据。我们在涉及收缩性心力衰竭患者的生存数据集以及模型设定错误的模拟生存数据集上展示了该方法,以说明其对模型设定错误的稳健性。

关键词

引用

@article{arxiv.1701.04944,
  title  = {A Machine Learning Alternative to P-values},
  author = {Min Lu and Hemant Ishwaran},
  journal= {arXiv preprint arXiv:1701.04944},
  year   = {2017}
}