基于显著图的自动驾驶系统模型失效预测
机器学习
2019-05-21 v1 机器学习
摘要
尽管机器学习系统在诸多复杂任务中表现出很高的成功率，研究表明它们也会在非常出乎意料的情境中失效。机器学习产品在安全关键行业中的兴起，使得对机器学习系统鲁棒性评估与失效概率估计的关注日益增加。在本工作中，我们提出一种设计，训练一个学生模型——失效预测器——基于输入样本的显著图来预测主模型对其的错误。我们以自动驾驶转向控制系统作为安全关键应用的示例，实现并审视了我们失效预测器的初步结果。
引用
@article{arxiv.1905.07679,
title = {Predicting Model Failure using Saliency Maps in Autonomous Driving Systems},
author = {Sina Mohseni and Akshay Jagadeesh and Zhangyang Wang},
journal= {arXiv preprint arXiv:1905.07679},
year = {2019}
}
备注
Presented at ICML 2019 Workshop on Uncertainty and Robustness in Deep Learning