Arachne：基于搜索的深度神经网络修复
机器学习
2022-12-14 v2
摘要
深度神经网络（DNNs）的快速广泛应用催生了测试其行为的需求，许多测试方法已成功揭示 DNN 的误行为。然而，在揭示之后如何纠正此类行为仍相对不明，因为重训练涉及昂贵的数据收集且不能保证修复底层问题。本文介绍 Arachne，一种新颖的 DNN 程序修复技术，它直接使用 DNN 的输入-输出对作为规约来修复 DNN。Arachne 定位可生成有效补丁的神经权重，并使用差分进化（Differential Evolution）优化局部化权重以纠正误行为。使用不同基准的实证研究表明，Arachne 能够修复 DNN 的特定误分类而不显著降低总体准确率。平均而言，Arachne 生成的补丁可泛化到 61.3% 的未见误行为，而最先进的 DNN 修复技术仅泛化到 10.2% 且有时完全不能泛化，同时耗时数十倍于 Arachne。我们还展示 Arachne 可通过去偏一个性别分类模型来解决公平性问题。最后，我们成功将 Arachne 应用于文本情感模型，表明其可泛化至卷积神经网络（Convolutional Neural Networks）之外。
引用
@article{arxiv.1912.12463,
title = {Arachne: Search Based Repair of Deep Neural Networks},
author = {Jeongju Sohn and Sungmin Kang and Shin Yoo},
journal= {arXiv preprint arXiv:1912.12463},
year = {2022}
}