源代码神经模型中的后门
机器学习
2022-12-20 v1 密码学与安全
机器学习
摘要
深度神经网络易受一系列对抗攻击。一类尤其有害的漏洞是后门，即模型预测在输入中存在微妙触发器时会发生偏离。攻击者可通过毒化训练数据来植入后门，使触发输入产生期望的目标预测。我们在源代码深度学习的背景下研究后门。（1）我们定义了一系列面向源代码任务的后门类别，并展示如何毒化数据集以安装此类后门。（2）我们调整并改进了鲁棒统计中近期的一些算法以适应我们的设定，表明后门在源代码的习得表示中留下谱签名，从而能够检测被毒化的数据。（3）我们在不同架构和语言上进行了 thorough 评估，展示了注入后门的容易程度以及我们消除它们的能力。
引用
@article{arxiv.2006.06841,
title = {Backdoors in Neural Models of Source Code},
author = {Goutham Ramakrishnan and Aws Albarghouthi},
journal= {arXiv preprint arXiv:2006.06841},
year = {2022}
}