通过不确定性监控实现基于深度学习的系统的故障安全执行
软件工程
2021-02-03 v1 机器学习
摘要
现代软件系统在处理复杂的、非结构化的输入（如图像、视频、自然语言文本或音频信号）时依赖深度神经网络（DNN）。鉴于此类输入空间极其庞大、学习算法固有的局限性，以及对于部分输入预期预测的模糊性，不仅无法保证 DNN 的预测总是正确的，而且开发者必须安全地假定一个较低但不可忽略的错误概率。故障安全的基于深度学习的系统（DLS）是指配备有监督器以处理 DNN 故障的系统，该监督器能够识别不应被信任的预测，并激活将 DLS 带入安全状态的修复过程。在本文中，我们提出一种使用 DNN 不确定性估计器来实现此类监督器的方法。我们首先讨论现有度量 DNN 不确定性方法的优缺点，并提出依赖于此类方法的、用于监督器经验评估的新指标。然后我们描述了公开可用的工具 UNCERTAINTY-WIZARD，它允许对常规 tf.keras DNN 进行透明的不确定性估计。最后，我们讨论在四个不同对象上进行的大规模研究，以经验验证该方法，并报告所汲取的经验教训，作为打算监控不确定性以实现 DLS 故障安全执行的软件工程师的指南。
引用
@article{arxiv.2102.00902,
title = {Fail-Safe Execution of Deep Learning based Systems through Uncertainty Monitoring},
author = {Michael Weiss and Paolo Tonella},
journal= {arXiv preprint arXiv:2102.00902},
year = {2021}
}
备注
Accepted at IEEE International Conference on Software Testing, Verification and Validation 2021