深度神经网络属性修复的补丁合成
机器学习
2025-02-04 v2 密码学与安全
摘要
深度神经网络（DNN）容易受到各种可靠性问题的影响，例如对抗性攻击，这阻碍了它们在安全关键领域的应用。最近，提出了神经网络修复技术，通过定位和修改有问题的神经元及其参数来解决这些问题，同时保持原始性能。然而，现有的修复方法通常局限于特定数据集，并且不能为修复的有效性提供理论保证。为了解决这些局限性，我们引入了PatchPro，一种新颖的基于补丁的DNN属性级修复方法，专注于局部鲁棒性。PatchPro背后的关键思想是构建补丁模块，当与原始网络集成时，这些模块为鲁棒性邻域内的所有样本提供专门的修复，同时保持网络的原始性能。我们的方法结合了形式化验证和一种用于分配补丁模块的启发式机制，使其能够防御对抗性攻击并泛化到其他输入。与现有的DNN修复方法相比，PatchPro在效率、可扩展性和修复成功率方面表现出优越性，即在多个高维数据集上实现了100%情况下的可证明属性级修复。
引用
@article{arxiv.2404.01642,
title = {Patch Synthesis for Property Repair of Deep Neural Networks},
author = {Zhiming Chi and Jianan Ma and Pengfei Yang and Cheng-Chao Huang and Renjue Li and Xiaowei Huang and Lijun Zhang},
journal= {arXiv preprint arXiv:2404.01642},
year = {2025}
}