嵌套保形预测与分位数袋外集成方法
统计方法学
2022-05-11 v4 人工智能
统计理论
机器学习
统计理论
摘要
保形预测是一种为分类和回归问题提供有效预测集的流行工具，不依赖于数据的任何分布假设。虽然保形预测的传统描述始于非一致性分数，我们提供了一种替代（但等价）的视角：从一列嵌套集出发并对其进行校准以找到有效的预测集。该嵌套框架囊括了所有非一致性分数，包括近期基于分位数回归和密度估计的提议。虽然这些思想最初基于样本分割推导，我们的框架将其无缝扩展到其他聚合方案，如交叉保形、jackknife+和袋外方法。我们利用该框架推导了一种新算法（QOOB，读作cube），它结合了四个思想：分位数回归、交叉保形化、集成方法和袋外预测。我们开发了交叉保形的计算高效实现，该实现也被QOOB使用。在详细的数值研究中，QOOB在所有模拟和真实数据集上表现要么最佳要么接近最佳。QOOB的代码可在 https://github.com/aigen/QOOB 获取。
引用
@article{arxiv.1910.10562,
title = {Nested conformal prediction and quantile out-of-bag ensemble methods},
author = {Chirag Gupta and Arun K. Kuchibhotla and Aaditya K. Ramdas},
journal= {arXiv preprint arXiv:1910.10562},
year = {2022}
}
备注
38 pages, 4 figures, 8 tables. This version fixes a bug in the proof of Proposition 3. Published paper available at https://www.sciencedirect.com/science/article/abs/pii/S0031320321006725