基于 DNN 的感知运行时监控
机器学习
2023-10-09 v1 软件工程
摘要
深度神经网络（DNNs）在实现复杂感知系统中发挥着重要作用。由于许多此类应用在设计上属于安全关键型，需要工程严谨性以确保基于 DNN 的感知的功能不足并非危害之源。除了在设计阶段采用的常规静态验证与测试技术外，还需要能够检测关键事件、诊断问题乃至强制执行需求的运行时验证技术。本教程旨在让读者一窥文献中提出的各类技术。我们从机器学习界提出的经典方法入手，随后重点介绍形式化方法界提出的若干技术。尽管我们确能观察到监控器设计上的相似性，但两个界别在如何创建决策边界方面存在差异。最后我们强调严谨设计监控器的必要性，其中运行域外数据的可用性起着重要作用。
引用
@article{arxiv.2310.03999,
title = {Runtime Monitoring DNN-Based Perception},
author = {Chih-Hong Cheng and Michael Luttenberger and Rongjie Yan},
journal= {arXiv preprint arXiv:2310.03999},
year = {2023}
}