基于矩阵草图的神经网络预测区间可扩展计算
机器学习
2022-05-09 v1 机器学习
摘要
在许多领域中，考虑现代神经网络预测的不确定性是一项具有挑战性且重要的任务。现有的不确定性估计算法需要修改模型架构和训练过程（例如贝叶斯神经网络），或者如基于集成的方法那样大幅增加预测的计算成本。本工作提出了一种新算法，可应用于给定的已训练神经网络并生成近似预测区间。该方法基于统计学中经典的 delta 方法，但通过使用矩阵草图来近似 Jacobian 矩阵从而实现计算效率。所得算法在 UCI 库的各种回归数据集上构建预测区间方面与最先进的方法具有竞争力。
引用
@article{arxiv.2205.03194,
title = {Scalable computation of prediction intervals for neural networks via matrix sketching},
author = {Alexander Fishkov and Maxim Panov},
journal= {arXiv preprint arXiv:2205.03194},
year = {2022}
}