通过正则化、置信度最小化和选择性推断校准贝叶斯学习
机器学习
2025-11-04 v3 人工智能
信号处理
摘要
人工智能（AI）模型在诸如工程领域的应用受到限于对 AI 决策可靠性量化难以了解的限制。一个 well-calibrated 的 AI 模型必须在 known difficulty of in-distribution (ID) 输入上正确报告其准确率，同时能够检测 out-of-distribution (OOD) 输入。传统方法通过应用贝叶斯集成来提高校准效果。然而，由于计算限制和模型误指定性，实际的集成策略不一定能提高校准效果。本文提出了一种扩展 variational inference (VI) 基于贝叶斯学习的方法，将校准正则化用于提高 ID 性能，置信度最小化用于 OOD 检测，以及选择性校准以确保校准正则化和置信度最小化的协同使用。该方案依次构建：首先引入校准正则化贝叶斯学习 (CBNN)，然后纳入 out-of-distribution 置信度最小化 (OCM) 以得到 CBNN-OCM，最后整合选择性校准以产生选择性 CBNN-OCM (SCBNN-OCM)。选择性校准会拒绝预期校准性能不足的输入。数值结果说明了 frequentist 和贝叶斯学习方法在 ID 准确率、ID 校准和 OOD 校准之间所达到的权衡。主要结论之一是，SCBNN-OCM 在现有 state-of-the-art 方法的基础上，以一定程度的输入被拒绝代价，实现了最佳的 ID 和 OOD 性能。
引用
@article{arxiv.2404.11350,
title = {Calibrating Bayesian Learning via Regularization, Confidence Minimization, and Selective Inference},
author = {Jiayi Huang and Sangwoo Park and Osvaldo Simeone},
journal= {arXiv preprint arXiv:2404.11350},
year = {2025}
}
备注
Accepted for publication in IEEE Trans. Signal Process