STRATA：针对代码模型的简单无梯度攻击
机器学习
2021-08-23 v2 密码学与安全
机器学习
摘要
神经网络众所周知易受输入中难以察觉的扰动（称为对抗样本）的影响，从而导致误分类。与图像和自然语言领域相比，为源代码生成对抗样本带来了额外挑战，因为源代码扰动必须保留代码的功能语义。我们识别出词元频率统计与所学词元嵌入之间的显著关系：所学词元嵌入的 L2 范数随词元频率增加而增大，最高频词元除外。我们利用该关系构建了一种简单高效的无梯度方法，用于在代码模型上生成最先进的对抗样本。我们的方法以更少的信息和更少的计算代价在经验上优于竞争的基于梯度的方法。
引用
@article{arxiv.2009.13562,
title = {STRATA: Simple, Gradient-Free Attacks for Models of Code},
author = {Jacob M. Springer and Bryn Marie Reinstadler and Una-May O'Reilly},
journal= {arXiv preprint arXiv:2009.13562},
year = {2021}
}
备注
KDD'21 AdvML Workshop