通过傅里叶稳定化增强神经网络的鲁棒性

尽管神经网络在如恶意软件检测等安全场景中取得了相当大的成功，但此类模型已被证明易受规避攻击，攻击者对输入（例如恶意软件）做细微改动以绕过检测。我们提出一种新方法，即\emph{傅里叶稳定化}，用于设计具有二值输入的规避鲁棒神经网络。该方法与其他防御形式互补，使用傅里叶分析工具导出的鲁棒类比替换单个神经元的权重。然后在神经网络中选择哪些神经元进行稳定化是一个组合优化问题，我们提出几种近似求解方法。我们给出了由于傅里叶稳定化导致的每神经元精度下降的形式化界，并通过实验证明了所提方法在多种检测场景中提升神经网络鲁棒性的有效性。此外，我们展示了我们的方法能与对抗训练有效组合。