睡眠模式提升人工神经网络校准精度
机器学习
2026-03-10 v1 人工智能
摘要
人工神经网络常常高估置信度，导致其预测概率与实际准确率不匹配，削弱信任。我们受生物睡眠及其在记忆与学习中涉及的自发回放作用启发，提出 Sleep Replay Consolidation（SRC）——一种新型校准方法。SRC 是一种后训练的、类似睡眠的阶段，通过选择性回放内部表征来更新网络权重，从而在无需监督再训练的情况下提升校准性能。在多个实验中，SRC 与温度缩放等标准方法并列具有竞争力且互补。将 SRC 与温度缩放组合可在 AlexNet 和 VGG19 上获得最佳的 Brier 得分和熵权衡。这些结果表明 SRC 提供了一种根本上新的神经网络校准方法。SRC 基于的校准方式为提升置信度估计的可信度提供了实用路径，缩小了人类类不确定性处理能力与现代深度网络之间的差距。
引用
@article{arxiv.2603.07867,
title = {Slumbering to Precision: Enhancing Artificial Neural Network Calibration Through Sleep-like Processes},
author = {Jean Erik Delanois and Aditya Ahuja and Giri P. Krishnan and Maxim Bazhenov},
journal= {arXiv preprint arXiv:2603.07867},
year = {2026}
}