基于视觉的深度学习中新奇检测的网络显著性方法
机器学习
2019-06-11 v1 计算机视觉与模式识别
机器学习
摘要
由机器学习驱动的安全关键自主系统，例如自动驾驶汽车，必须能够检测出其训练模型无法做出可信预测的情形。由于常被视为黑箱，判断模型何时会做出安全决策、何时会做出可能危及生命的错误决策并不直观。先前关于新奇检测的研究处理高度结构化的数据，难以很好地迁移到动态的、真实世界的场景中。本文提出了一种多步骤框架，通过利用训练好的预测模型所学到的信息以及一种新的图像相似性度量，来检测基于视觉的自主系统中的新奇场景。我们通过在真实世界驾驶数据集以及自有的室内竞速环境中的实验证明了该方法的有效性。
引用
@article{arxiv.1906.03685,
title = {Novelty Detection via Network Saliency in Visual-based Deep Learning},
author = {Valerie Chen and Man-Ki Yoon and Zhong Shao},
journal= {arXiv preprint arXiv:1906.03685},
year = {2019}
}
备注
To be published in Dependable and Secure Machine Learning (DSML) workshop co-located with the IEEE Conference on Dependable Systems and Networks 2019