针对逃避攻击的拓扑防护：解释神经网络行为
机器学习
2024-02-14 v2
摘要
近年来，深度学习技术被应用于不同领域，带来了诸多进步，但也识别出这些解决方案在网络安全方面的新威胁。这些已实现的模型带来了与深度学习技术相关的若干漏洞。此外，这些漏洞允许利用已实现的模型，获取私有信息，甚至修改模型的决策。因此，研究这些漏洞/攻击并设计防御措施以避免或对抗它们，正日益受到研究者的关注。特别是，广为人知的逃避攻击正在被研究人员分析；因此，文献中可以找到多种避免此类威胁的防御措施。自L-BFG算法提出以来，这一威胁一直令研究界担忧。然而，由于没有一种完美的防御能应对所有已知的逃避算法，新的巧妙对策仍在不断涌现。在这项工作中，我们开发了一种新颖的逃避攻击检测器。它关注当输入样本被注入时模型给出的神经元激活信息。此外，它关注目标深度学习模型的拓扑结构，以根据哪些神经元在连接来分析激活。之所以采用这种方法，是因为文献表明目标模型的拓扑结构包含关于是否发生逃避攻击的重要信息。为此，需要进行大量的数据预处理，以将所有信息引入检测器，该检测器使用图卷积神经网络（GCN）技术。因此，它理解了目标模型的拓扑结构，获得了有希望的结果，并改进了文献中与类似防御相关的结果。
引用
@article{arxiv.2402.07480,
title = {Topological safeguard for evasion attack interpreting the neural networks' behavior},
author = {Xabier Echeberria-Barrio and Amaia Gil-Lerchundi and Iñigo Mendialdua and Raul Orduna-Urrutia},
journal= {arXiv preprint arXiv:2402.07480},
year = {2024}
}