SpecRepair：反例引导的深度神经网络安全性修复
机器学习
2022-08-23 v5 计算机科学中的逻辑
摘要
深度神经网络（DNNs）正日益应用于安全关键领域，如自动驾驶汽车、无人机和医学诊断。认证这些 DNN 的安全性（即它们符合形式化安全规范）具有根本重要性。虽然安全认证工具能精确回答此问题，但它们对调试不安全 DNN 毫无帮助，要求开发者反复验证并修改 DNN 直至最终达到安全。因此，需要开发一种能自动生成安全 DNN 的修复技术。为满足该需求，我们提出 SpecRepair，一种能从 DNN 中高效消除反例并生成可证明安全且不损害分类精度的 DNN 的工具。SpecRepair 结合基于规范的反例搜索并恢复 DNN 训练，对反例施以惩罚并认证所得 DNN。我们在 ACAS Xu 基准（一种基于 DNN 的无人机控制器）及两个图像分类基准上评估 SpecRepair 的有效性。结果显示，相较于可比方法，SpecRepair 在生成安全 DNN 上更成功、运行时间更短，且能在保持分类精度的同时生成安全 DNN。
引用
@article{arxiv.2106.01917,
title = {SpecRepair: Counter-Example Guided Safety Repair of Deep Neural Networks},
author = {Fabian Bauer-Marquart and David Boetius and Stefan Leue and Christian Schilling},
journal= {arXiv preprint arXiv:2106.01917},
year = {2022}
}
备注
This is the extended version of a paper with the same title that appeared at SPIN 2022