深度回归的后门攻击与防御
机器学习
2021-09-07 v1 密码学与安全
摘要
我们展示了对用于回归的深度神经网络的后门攻击。该后门攻击基于训练集数据投毒实现定位，其中被错误标注的样本被正确标注的样本所包围。我们展示这种定位对攻击成功是必要的。我们还研究了一种利用基于梯度的局部误差最大化子发现的后门防御方法的性能。与显著（插值）误差相关且邻近许多训练样本的局部误差最大化子具有可疑性。该方法也通过利用能提供样本实值监督（回归目标）的“预言机”进行主动（深度）学习，从一开始便用于精确训练深度回归。此类预言机，包括使用有限差分或蒙特卡洛近似的偏微分方程或随机微分方程的传统数值求解器，其计算代价远高于深度回归。
引用
@article{arxiv.2109.02381,
title = {Backdoor Attack and Defense for Deep Regression},
author = {Xi Li and George Kesidis and David J. Miller and Vladimir Lucic},
journal= {arXiv preprint arXiv:2109.02381},
year = {2021}
}