防御性感知：部署下神经网络性能的估计与监控
计算机视觉与模式识别
2023-08-15 v1 人工智能
机器学习
机器人学
系统与控制
系统与控制
摘要
在本文中，我们提出一种方法，以解决自动驾驶中语义分割神经网络未被察觉的灾难性部署与域偏移问题。我们的方法基于如下理念：基于深度学习的自动驾驶感知具有不确定性，且最好表示为概率分布。由于自动驾驶车辆的安全性至关重要，感知系统必须能够识别车辆何时正离开其运行设计域、预判危险不确定性并降低感知系统性能。为此，我们提出将部署下的神经网络封装于基于认知不确定性估计的不确定性估计包络中，该估计通过 Monte Carlo Dropout 方法实现。此方法无需修改已部署神经网络，且保证预期模型性能。我们的防御性感知包络能够估计神经网络性能，从而实现对部署下神经网络性能下降域的进入监控与通知。此外，我们的包络通过新方法得以扩展以改进部署环境中的应用，包括降低计算开销与抑制估计噪声。最后，我们展示了该方法对自动驾驶相关的多种不同潜在部署偏移（如转入夜间、雨天或雪天域）的适用性。总体而言，我们的方法在部署环境中展现出巨大应用潜力，并通过不确定性实现运行设计域识别，从而支持防御性感知、安全状态触发、警告通知，以及用于感知技术栈测试或开发与自适应的反馈。
引用
@article{arxiv.2308.06299,
title = {Defensive Perception: Estimation and Monitoring of Neural Network Performance under Deployment},
author = {Hendrik Vogt and Stefan Buehler and Mark Schutera},
journal= {arXiv preprint arXiv:2308.06299},
year = {2023}
}