基于可微符号执行的安全神经符号学习

我们研究为同时使用神经网络以及符号化人工编写代码的程序学习最坏情况安全参数这一问题。此类神经符号程序出现在许多安全关键领域中。然而，由于它们可能使用不可微操作，难以使用现有的基于梯度的安全学习方法对其参数进行学习。我们针对该问题的方法——可微符号执行（DSE）——对程序中的控制流路径进行采样，沿这些路径符号化地构造最坏情况“安全损失”，并使用 REINFORCE 估计器的推广将这些损失的梯度通过程序操作反向传播。我们在一系列合成任务与真实基准上评估该方法。实验表明，DSE 在这些任务上显著优于最先进的 DiffAI 方法。