基于场景的覆盖规则增强深度学习：一个案例研究
软件工程
2023-01-20 v1 机器学习
摘要
深度神经网络（DNN）因其高效解决复杂问题的能力，已成为软件开发工具包中的关键工具。然而，DNN 高度不透明，在遇到陌生输入时可能表现出意外行为。解决这一挑战的一种有前景的方法是通过手工制定的覆盖规则来扩展基于 DNN 的系统，当满足特定条件时这些规则会覆盖 DNN 的输出。在此，我们主张使用经过充分研究的基于场景的建模范式来制定此类覆盖规则，该范式生成的规则简单、可扩展且足够强大，能够确保 DNN 的安全性，同时使系统更加透明。我们报告了两个广泛的案例研究，证明了该方法的可行性；并通过它们提出了对基于场景的建模的扩展，以促进其与 DNN 组件的集成。我们将这项工作视为迈向创建更安全、更可靠的基于 DNN 的系统和模型的一步。
引用
@article{arxiv.2301.08114,
title = {Enhancing Deep Learning with Scenario-Based Override Rules: a Case Study},
author = {Adiel Ashrov and Guy Katz},
journal= {arXiv preprint arXiv:2301.08114},
year = {2023}
}
备注
A preprint of a paper with the same title, to appear at MODELSWARD 2023