具有最小性与局部性保证的可靠且完备的神经网络修复
机器学习
2022-07-25 v3
摘要
我们提出了一种修复使用 ReLU 激活函数的神经网络的新颖方法。现有方法依赖于修改神经网络的权重，这会在函数空间中引起全局变化；与此不同，我们的方法仅对函数空间施加局部变化，同时仍保证消除错误行为。利用 ReLU 网络的分段线性特性，我们的方法能够高效地构建一个针对错误输入所在线性区域定制的补丁网络，当其与原始网络结合时，可证明地纠正了在错误输入上的行为。我们的方法既可靠又完备——修复后的网络保证能修复错误输入，且对于任何错误输入都保证能找到补丁。此外，我们的方法保留了 ReLU 网络的连续分段线性特性，自动将修复泛化至修复区域内的所有点（包括其他未检测到的错误输入），在函数空间中的变化方面是最小的，并保证修复区域之外的输入输出保持不变。在多个基准测试上，我们展示了我们的方法在局部性和限制负面副作用方面显著优于现有方法。我们的代码可在 GitHub 上获取：https://github.com/BU-DEPEND-Lab/REASSURE。
引用
@article{arxiv.2110.07682,
title = {Sound and Complete Neural Network Repair with Minimality and Locality Guarantees},
author = {Feisi Fu and Wenchao Li},
journal= {arXiv preprint arXiv:2110.07682},
year = {2022}
}
备注
17 pages, 3 figures