基于平均-时间浸入神经网络的回归不确定性估计
机器学习
2024-12-03 v1 人工智能
神经与进化计算
摘要
不确定性估计是量化现代深度学习模型可靠性的标准工具,对于许多实际应用至关重要。然而,针对浸入神经网络,特别是针对回归模型的高效不确定性估计方法尚不完善。本文引入两种方法,将 Average-Over-Time Spiking Neural Network (AOT-SNN) 框架适用于回归任务,增强事件驱动模型中的不确定性估计。第一种方法使用异方差高斯方法,其中 SNN 在每个时间步骤预测均值和方差,从而生成目标变量的条件概率分布。第二种方法利用回归为分类 (RAC) 方法,将回归问题重新表述为分类问题以促进不确定性估计。我们在玩具数据集和多个基准数据集上评估了这些方法,结果表明,所提出的 AOT-SNN 模型在不确定性估计方面表现出与或优于最先进深度神经网络方法的性能。我们的发现凸显了 SNN 在回归任务中进行不确定性估计的潜力,为需要同时具备准确性和能源效率的应用提供了一种高效且受生物学启发的替代方案。
引用
@article{arxiv.2412.00278,
title = {Average-Over-Time Spiking Neural Networks for Uncertainty Estimation in Regression},
author = {Tao Sun and Sander Bohté},
journal= {arXiv preprint arXiv:2412.00278},
year = {2024}
}