基于场景建模的深度学习防护方法
软件工程
2020-06-09 v1
摘要
深度神经网络（DNNs）正变得普遍，常优于人工构建的系统。遗憾的是，DNN模型对人类不透明，部署时可能以意外方式行为。一种允许更安全部署DNN模型的方法是为模型增补手工制定的覆盖规则，当满足特定准则时覆盖DNN模型的决策。在此，我们提出将DNN与经过充分研究的场景建模（scenario-based modeling）范式结合，将这些覆盖规则表达为简单直观的场景。该方法可产生人类可理解的覆盖规则，同时也具有足够的表达力与能力以提升模型整体安全性。我们描述了如何扩展并将场景建模应用于这一新设定，并在多个DNN模型上演示了所提技术。
引用
@article{arxiv.2006.03863,
title = {Guarded Deep Learning using Scenario-Based Modeling},
author = {Guy Katz},
journal= {arXiv preprint arXiv:2006.03863},
year = {2020}
}
备注
This is a preprint version of the paper that appeared at Modelsward 2020