利用全局平均池化的动态后门
密码学与安全
2022-11-08 v1 机器学习
摘要
外包训练与机器学习即服务引发了诸如后门攻击等新型攻击向量。此类攻击在神经网络中嵌入一种秘密功能，当触发项被加入输入时即被激活。在文献中大多数工作里，触发项在位置和模式上都是静态的。多种检测机制的有效性正依赖于这一特性。近期研究表明，图像分类中的 Neural Cleanse 与 ABS 等对策可被动态触发项绕过，后者无论模式与位置如何均有效。然而，此类后门要求较大比例的投毒训练数据，因而难以实现。本工作中，我们首次表明动态后门攻击可因全局平均池化层而发生，且无需提高投毒训练数据的比例。尽管如此，我们在声音分类、文本情感分析与图像分类中的实验表明，这在实践中非常困难。
引用
@article{arxiv.2203.02079,
title = {Dynamic Backdoors with Global Average Pooling},
author = {Stefanos Koffas and Stjepan Picek and Mauro Conti},
journal= {arXiv preprint arXiv:2203.02079},
year = {2022}
}