深度神经网络的对抗鲁棒性：基于形式化验证视角的综述
密码学与安全
2022-10-12 v2 机器学习
软件工程
摘要
神经网络已广泛应用于垃圾邮件与钓鱼检测、入侵防御和恶意软件检测等安全领域。然而，这种黑盒方法在应用中常存在不确定性与可解释性差的问题。此外，神经网络本身往往易受对抗攻击。出于这些原因，对可信且严谨的神经网络模型鲁棒性验证方法有着很高的需求。对抗鲁棒性关注神经网络在处理被恶意篡改的输入时的可靠性，是安全与机器学习领域最热门的课题之一。本文中，我们综述了神经网络对抗鲁棒性验证的现有文献，收集了横跨机器学习、安全与软件工程领域的 39 项多样化研究工作。我们系统分析了它们的方法，包括鲁棒性如何形式化、使用了何种验证技术，以及各项技术的优势与局限。我们从形式化验证视角提供了一套分类体系，以全面理解该主题。基于属性规约、问题归约和推理策略对现有技术进行分类。我们还通过示例模型展示了现有研究中应用的代表性技术。最后，我们讨论了未来研究的开放问题。
引用
@article{arxiv.2206.12227,
title = {Adversarial Robustness of Deep Neural Networks: A Survey from a Formal Verification Perspective},
author = {Mark Huasong Meng and Guangdong Bai and Sin Gee Teo and Zhe Hou and Yan Xiao and Yun Lin and Jin Song Dong},
journal= {arXiv preprint arXiv:2206.12227},
year = {2022}
}