基于代理神经核函数的可扩展线性化拉普拉斯逼近
机器学习
2026-02-04 v2
摘要
我们介绍一种可扩展的方法来逼近线性化拉普拉斯逼近（LLA）的核函数。为此，我们使用一个代理深度神经网络（DNN），学习一个紧凑特征表示，其内积复制神经神经元核（NTK）。这避免了需要计算大型雅可比矩阵。训练仅依赖于高效的雅可比-向量乘积，允许在大规模预训练 DNN 上计算预测不确定性。实验结果表明，与现有 LLA 逼近方法相当或更好的不确定性估计和校准。尽管如此，偏向所学核函数显著增强了准外推检测。这表明，在给定预训练 DNN 以计算预测不确定性的背景下，本方法具有寻找比 NTK 更好核函数的优势。
引用
@article{arxiv.2601.21835,
title = {Scalable Linearized Laplace Approximation via Surrogate Neural Kernel},
author = {Luis A. Ortega and Simón Rodríguez-Santana and Daniel Hernández-Lobato},
journal= {arXiv preprint arXiv:2601.21835},
year = {2026}
}
备注
6 pages, 1 table. Accepted at European Symposium on Artificial Neural Networks (ESANN 2026) as oral presentation