CGDTest：一种用于测试神经网络的约束梯度下降算法
机器学习
2023-04-05 v1 软件工程
摘要
本文提出一种新的深度神经网络（DNN）测试算法，称为约束梯度下降（CGD）方法，以及我们称之为CGDTest的实现，旨在暴露DNN中的安全性与鲁棒性问题，例如对抗鲁棒性和偏差。我们的CGD算法是一种梯度下降（GD）方法，其不同之处在于用户可以指定刻画其可能想要的输入种类的逻辑性质。这一功能使CGDTest区别于其他类似的DNN测试工具，因为它允许用户指定逻辑约束来测试DNN，不仅针对基于球的对抗鲁棒性，更重要的是还包括更丰富的性质，如伪装与流对抗约束，以及NLP领域的对抗鲁棒性。我们通过视觉与NLP领域的大量实验展示了CGDTest的效用与能力，在这些不同领域上与32种最先进的方法进行比较。我们的结果表明，CGDTest在基于球的对抗鲁棒性上优于最先进的测试工具，并且在测试其他对抗鲁棒性上显著占优，在某些情况下相较次优工具的PAR2分数提升超过1500%。我们的评估显示，我们的CGD方法在可表达性（即丰富的约束语言及相伴的工具支持以表达多种多样的性质）、可扩展性（即可应用于参数多达1.38亿的非常大型的真实世界模型）和通用性（即可用于测试大量模型架构）方面均优于我们所比较的竞品方法。
引用
@article{arxiv.2304.01826,
title = {CGDTest: A Constrained Gradient Descent Algorithm for Testing Neural Networks},
author = {Vineel Nagisetty and Laura Graves and Guanting Pan and Piyush Jha and Vijay Ganesh},
journal= {arXiv preprint arXiv:2304.01826},
year = {2023}
}