深度神经网络的最小多层修改
机器学习
2021-10-22 v2 计算机科学中的逻辑
摘要
深度神经网络（DNNs）近年来日益流行。然而，尽管取得诸多成功，DNNs也可能出错，并在自动驾驶、医学诊断和机载防撞系统等安全关键场景中产生不正确且可能致命的输出。已有大量工作用于检测DNNs中的此类错误行为，例如通过测试或验证，但在检测到错误后消除这些错误所受关注较少。我们在此提出一种名为3M-DNN的新工具，用于修复已知在某些输入集上出错的给定DNN。3M-DNN实现的新型修复过程计算对网络权重的修改以纠正其行为，并试图通过对后端黑盒DNN验证引擎的一系列调用来最小化此变更。据我们所知，我们的方法是首个允许通过同时修改多层来修复网络的方法。这是通过将网络拆分为子网络，并对每个组件应用单层修复技术实现的。我们在大量基准测试上评估了3M-DNN工具，获得了有前景的结果。
引用
@article{arxiv.2110.09929,
title = {Minimal Multi-Layer Modifications of Deep Neural Networks},
author = {Idan Refaeli and Guy Katz},
journal= {arXiv preprint arXiv:2110.09929},
year = {2021}
}