最优不确定性引导神经网络训练
机器学习
2024-07-16 v1 机器学习
摘要
基于神经网络（NN）的直接不确定性量化（UQ）方法自首次提出即称为下-上界估计（LUBE）方法以来，已达到最先进（state of the art）性能。然而，当前可用的不确定性引导 NN 训练代价函数并非总能收敛，且所有收敛的 NN 均未生成优化的预测区间（PI）。此外，若干团队提出了不同的 PI 质量准则。这引发了关于它们相对有效性的问题。现有大多数不确定性引导 NN 训练代价函数不可定制且训练收敛性不确定。因此，本文中我们提出一种高度可定制的平滑代价函数用于开发 NN 以构建最优 PI。对测试数据集计算了 PI 的优化平均宽度、PI 失效距离以及 PI 覆盖概率（PICP）。所提方法的性能在风电发电与电力需求数据上进行了检验。结果表明，所提方法降低了 PI 质量的变异，加速了训练，并将收敛概率从 99.2% 提升至 99.8%。
引用
@article{arxiv.1912.12761,
title = {Optimal Uncertainty-guided Neural Network Training},
author = {H M Dipu Kabir and Abbas Khosravi and Abdollah Kavousi-Fard and Saeid Nahavandi and Dipti Srinivasan},
journal= {arXiv preprint arXiv:1912.12761},
year = {2024}
}