深度学习中域内不确定性估计与集成的陷阱
机器学习
2021-07-20 v4 机器学习
摘要
不确定性估计与集成方法密不可分。不确定性估计是评估集成性能的主要基准之一。同时，深度学习集成已在不确定性估计中提供最先进的结果。本工作中，我们聚焦于图像分类的域内不确定性。我们探究其量化标准并指出已有度量的陷阱。规避这些陷阱，我们对不同集成技术进行了广泛研究。为在该研究中提供更多洞见，我们引入了深度集成等价分数（DEE），并表明许多精巧的集成技术在测试性能上等价于仅由少数独立训练网络组成的集成。
引用
@article{arxiv.2002.06470,
title = {Pitfalls of In-Domain Uncertainty Estimation and Ensembling in Deep Learning},
author = {Arsenii Ashukha and Alexander Lyzhov and Dmitry Molchanov and Dmitry Vetrov},
journal= {arXiv preprint arXiv:2002.06470},
year = {2021}
}