利用神经网络构建预测区间：自助法与保形推断方法的实证评估
机器学习
2022-10-12 v1 机器学习
摘要
人工神经网络（ANN）是完成许多机器学习任务（包括预测连续结果）的流行工具。然而，ANN 预测普遍缺乏置信度度量，限制了其适用性。用预测区间（PI）补充点预测在其他学习算法中很常见，但 ANN 复杂的结构和训练使得构建 PI 十分困难。本工作提供了网络设计选择和推断方法，以利用 ANN 创建性能更优的 PI。在包括一个基于图像的数据集在内的 11 个数据集上执行了两步实验。考虑了两种无分布的 PI 构建方法：自助法和保形推断。第一步实验的结果表明，构建 ANN 所固有的选择会影响 PI 性能。提供了关于如何针对每个网络特征和 PI 方法优化 PI 性能的指导。在第二步中，实现了 20 种构建 PI 的算法，每种算法均使用自助法或保形推断原理，以确定哪种方法在保持合理计算负担的同时提供最佳性能。总体而言，在实施交叉保形方法时该权衡得到优化，该方法在降低计算负担的同时保持了区间覆盖率和效率。
引用
@article{arxiv.2210.05354,
title = {Constructing Prediction Intervals with Neural Networks: An Empirical Evaluation of Bootstrapping and Conformal Inference Methods},
author = {Alex Contarino and Christine Schubert Kabban and Chancellor Johnstone and Fairul Mohd-Zaid},
journal= {arXiv preprint arXiv:2210.05354},
year = {2022}
}
备注
59 pages, 35 figures, 12 tables