具有标签噪声建模与距离感知的深度分类器
机器学习
2022-08-09 v2 机器学习
摘要
深度学习中的不确定性估计近来已成为提升安全关键应用中可靠性与鲁棒性的重要研究领域。尽管已有许多方法或侧重于面向分布外检测的距离感知模型不确定性，或侧重于面向分布内校准的依赖于输入的标签不确定性，但这两类不确定性往往都是必要的。在本工作中，我们提出 HetSNGP 方法，用于联合建模模型与数据不确定性。我们表明，所提模型在这两类不确定性之间实现了良好的结合，从而在包括 CIFAR-100C、ImageNet-C 和 ImageNet-A 在内的一些具有挑战性的分布外数据集上优于基线方法。此外，我们提出 HetSNGP Ensemble，即我们方法的集成版本，其额外对网络参数上的不确定性进行建模，并优于其他集成基线。
引用
@article{arxiv.2110.02609,
title = {Deep Classifiers with Label Noise Modeling and Distance Awareness},
author = {Vincent Fortuin and Mark Collier and Florian Wenzel and James Allingham and Jeremiah Liu and Dustin Tran and Balaji Lakshminarayanan and Jesse Berent and Rodolphe Jenatton and Effrosyni Kokiopoulou},
journal= {arXiv preprint arXiv:2110.02609},
year = {2022}
}
备注
Published in TMLR