用于神经网络不确定性估计的抑制型 Softmax
机器学习
2019-04-09 v2 机器学习
摘要
我们提出了一种在具有 softmax 输出的神经网络中进行不确定性估计与分布外检测的新方法。我们通过增加一个常数输入来扩展 softmax 层。相应的额外输出能够表示网络的不确定性。所提方法既不需要额外参数,也不需要多次前向传播,不需要输入预处理,也不需要分布外数据集。我们表明,我们的方法在性能上与计算代价更高的方法相当,并在图像识别与情感分析领域的实验中优于基线方法。
引用
@article{arxiv.1810.01861,
title = {Inhibited Softmax for Uncertainty Estimation in Neural Networks},
author = {Marcin Możejko and Mateusz Susik and Rafał Karczewski},
journal= {arXiv preprint arXiv:1810.01861},
year = {2019}
}