基于逆分布的贝叶斯神经网络后门攻击
密码学与安全
2022-05-20 v1 人工智能
摘要
由于成本和上市时间限制，许多行业将机器学习模型（ML）的训练过程外包给第三方云服务提供商，即广为人知的机器学习即服务（MLaaS）。MLaaS为攻击者提供了机会，向用户提供后门ML模型，使其仅在极罕见（攻击者选定）场景下产生错误预测。贝叶斯神经网络（BNN）天生对后门攻击具有免疫性，因为其权重被设计为边缘分布以量化不确定性。本文中，我们提出一种基于逆分布的有效学习与针对性利用的新型后门攻击。本文做出三项重要贡献：（1）据我们所知，这是首个能有效破坏BNN鲁棒性的后门攻击；（2）我们生成逆分布，在触发器激活时抵消原始分布；（3）我们提出了一种合并BNN中概率分布的高效方案。在多个基准数据集上的实验结果表明，我们所提攻击可达到100%的攻击成功率（ASR），而最先进攻击的ASR低于60%。
引用
@article{arxiv.2205.09167,
title = {Backdoor Attacks on Bayesian Neural Networks using Reverse Distribution},
author = {Zhixin Pan and Prabhat Mishra},
journal= {arXiv preprint arXiv:2205.09167},
year = {2022}
}
备注
9 pages, 7 figures