中文

神经网络的模型无关局部再校准

统计方法学 2024-03-12 v1 机器学习

摘要

人工神经网络(ANN)是高度灵活的预测模型。然而,可靠地量化其预测的不确定性仍是一项持续的挑战。近期有许多关于 ANN 预测分布“再校准”的工作,以使感兴趣事件的预测概率与其特定的频率评估相一致。未校准的概率预测在许多重要决策任务中用途有限。为解决此问题,我们提出利用 ANN 隐藏层提供的输入降维表示,对 ANN 预测分布进行局部再校准。我们的新方法借鉴了近似贝叶斯计算与似然无关推断方法文献中使用的再校准技术。现有的大多数 ANN 校准方法可被视为在输入层或输出层进行校准:当输入是高维时,在输入层校准很困难;而输出层校准可能不够灵活。通过模拟研究,我们证明了该方法与替代方法相比具有良好的性能,并探讨了基于网络不同层进行局部校准所能带来的益处。最后,我们将所提方法应用于钻石价格预测问题,展示了该方法在实际应用中改进预测和不确定性量化的潜力。

关键词

引用

@article{arxiv.2403.05756,
  title  = {Model-Free Local Recalibration of Neural Networks},
  author = {R. Torres and D. J. Nott and S. A. Sisson and T. Rodrigues and J. G. Reis and G. S. Rodrigues},
  journal= {arXiv preprint arXiv:2403.05756},
  year   = {2024}
}

备注

25 pages, 5 figures