不确定性感知深度模型的成功依赖于数据流形几何
机器学习
2022-08-09 v2
摘要
为在安全关键场景中进行负责任决策，机器学习模型必须有效检测并处理边缘情况数据。尽管现有工作表明预测不确定性对这些任务有用，但从文献中无法明显看出哪些不确定性感知模型最适合给定数据集。因此，我们在一组边缘情况任务上比较六种不确定性感知深度学习模型：对对抗攻击的鲁棒性以及分布外与对抗检测。我们发现数据子流形的几何是决定各类模型成功与否的重要因素。我们的发现为不确定性感知深度学习模型的研究指明了一个有趣方向。
引用
@article{arxiv.2208.01705,
title = {Success of Uncertainty-Aware Deep Models Depends on Data Manifold Geometry},
author = {Mark Penrod and Harrison Termotto and Varshini Reddy and Jiayu Yao and Finale Doshi-Velez and Weiwei Pan},
journal= {arXiv preprint arXiv:2208.01705},
year = {2022}
}