黑箱对抗性迁移性：面向网络安全的实证研究

人工智能在网络安全领域的快速发展引发了显著的安全问题。深度学习模型在对抗攻击中的脆弱性是主要问题之一。在对抗机器学习中，恶意用户通过在训练或测试阶段插入对抗性扰动输入来欺骗深度学习模型，从而降低模型置信度并导致错误分类。该研究的 novel 贡献在于经验性地测试了网络攻击检测系统中的黑箱对抗性迁移现象。结果表明，通过代理模型生成的对抗性扰动输入对目标模型产生类似的影响，从而导致错误分类。为经验验证这一现象，研究使用了代理模型和目标模型。生成基于代理模型（攻击者拥有完整信息）的对抗性扰动输入。在推断阶段，对这些对抗性扰动输入对代理模型和目标模型进行评估。我们在 CICDDoS-2019 数据集上进行了大量实验，结果以各种性能指标（准确率、精确率、召回率和 F1 分数）进行分类。研究结果表明，任何深度学习模型都高度易受对抗攻击的威胁，即便攻击者没有访问目标模型内部细节。结果还表明，白盒对抗攻击的影响比黑盒对抗攻击更严重。有必要探索对抗防御技术，以提高深度学习模型抗对抗攻击的鲁棒性。