中文

Dropout变分推断中模型不确定性的校准

机器学习 2020-06-23 v1 机器学习

摘要

通过蒙特卡洛dropout的变分贝叶斯推断所获得的模型不确定性容易出现校准不良。本文将对数几率缩放方法扩展至dropout变分推断,以重新校准模型不确定性。提出期望不确定性校准误差(UCE)作为衡量校准不良程度的指标。在CIFAR-10/100和SVHN数据集上针对近期CNN架构评估了重新校准的有效性。实验结果表明,对数几率缩放借助UCE显著减少了校准不良。良好校准的不确定性能够可靠地拒绝不确定预测并稳健地检测分布外数据。

关键词

引用

@article{arxiv.2006.11584,
  title  = {Calibration of Model Uncertainty for Dropout Variational Inference},
  author = {Max-Heinrich Laves and Sontje Ihler and Karl-Philipp Kortmann and Tobias Ortmaier},
  journal= {arXiv preprint arXiv:2006.11584},
  year   = {2020}
}