PoisHygiene：神经网络中投毒攻击的检测与缓解
密码学与安全
2020-06-23 v2 计算机视觉与模式识别
机器学习
摘要
深度神经网络（DNN）的黑盒特性使得攻击者能够通过数据投毒来操纵 DNN 的行为。能够检测并缓解通常被归类为后门攻击和对抗投毒（AP）的投毒攻击，对于在许多应用领域中安全采用 DNN 至关重要。尽管近期工作在检测某些后门攻击方面展示了令人鼓舞的结果，但它们存在固有的局限性，可能显著限制其适用性。事实上，目前尚不存在检测 AP 攻击的技术，这代表着一个更困难的挑战，因为此类攻击没有共同且明确的规则，而后门攻击则有（即，将后门触发器嵌入投毒数据）。我们认为检测并缓解 AP 攻击的关键在于观察和利用受感染 DNN 模型内由投毒引发的本质属性。在本文中，我们提出 PoisHygiene，这是首个针对 AP 攻击的有效且鲁棒的检测与缓解框架。PoisHygiene 的根本动机来自欧内斯特·卢瑟福博士的故事（即 1908 年诺贝尔奖得主），通过随机电子采样来观察原子的结构。
引用
@article{arxiv.2003.11110,
title = {PoisHygiene: Detecting and Mitigating Poisoning Attacks in Neural Networks},
author = {Junfeng Guo and Ting Wang and Cong Liu},
journal= {arXiv preprint arXiv:2003.11110},
year = {2020}
}