FENCE：约束环境下针对神经网络的可行规避攻击

尽管深度神经网络(DNNs)在许多关键应用中展现出前所未有的性能水平，其对抗攻击的脆弱性仍是一个开放问题。我们考虑在测试时针对约束环境中的深度学习进行规避攻击，其中特征之间的依赖关系需要被满足。这些情形可能自然出现在表格数据中，也可能是特定应用领域（如网络安全中的威胁检测）中特征工程的结果。我们提出一种称为FENCE的通用基于梯度的迭代框架，用于构造考虑约束域特性与应用需求的规避攻击。我们将其应用于针对两个网络安全应用训练的的前馈神经网络：网络流量僵尸网络分类与恶意域名分类，以生成可行的对抗样本。我们广泛评估了攻击的成功率与性能，比较了它们相对于若干基线的改进，并分析了影响攻击成功率的因素，包括优化目标与数据不平衡。我们表明，仅需极小代价（例如生成12个额外网络连接），攻击者即可将模型预测从恶意类改为良性类并规避分类器。我们表明，在更高不平衡数据集上训练的模型对我们的FENCE攻击更为脆弱。最后，我们展示了在约束域中进行对抗训练以提升模型对这些规避攻击鲁棒性的潜力。