NNrepair：基于约束的神经网络分类器修复
机器学习
2021-06-16 v2 人工智能
摘要
我们提出NNrepair，一种基于约束的神经网络分类器修复技术。该技术旨在修复网络中间层或最后一层的逻辑。NNrepair首先使用故障定位找出潜在有缺陷的网络参数（如权重），然后通过约束求解对参数进行微小修改以修复缺陷。我们提出了新颖的策略以实现精确且高效的修复，例如推断正确性规范以作为中间层修复的预言机，以及为每一类生成专家。我们在三种不同场景中展示了该技术：（1）提升模型整体准确率，（2）修复由训练数据投毒引起的安全漏洞，（3）提升网络针对对抗攻击的鲁棒性。我们在MNIST和CIFAR-10模型上的评估表明，NNrepair在投毒数据上可将准确率提升45.56个百分点，在对抗数据上提升10.40个百分点。NNrepair还能在不需新数据或重新训练的情况下，对模型整体准确率带来微小提升。
引用
@article{arxiv.2103.12535,
title = {NNrepair: Constraint-based Repair of Neural Network Classifiers},
author = {Muhammad Usman and Divya Gopinath and Youcheng Sun and Yannic Noller and Corina Pasareanu},
journal= {arXiv preprint arXiv:2103.12535},
year = {2021}
}