最后的舞蹈：基于扩散模型和贝叶斯方法的鲁棒后门攻击
机器学习
2025-04-22 v7 人工智能
密码学与安全
信号处理
摘要
扩散模型是最先进的深度学习生成模型，其训练原理是通过逐步添加噪声和去噪来学习前向和后向扩散过程。在本文中，我们旨在欺骗基于音频的DNN模型，例如来自Hugging Face框架的模型，特别是那些专注于音频的模型，尤其是基于Transformer的人工智能模型，这些模型是强大的机器学习模型，能够节省时间并更快、更高效地取得结果。我们展示了在源自Hugging Face的音频Transformer上进行后门攻击（称为“BacKBayDiffMod”）的可行性，Hugging Face是人工智能研究界中一个流行的框架。本文开发的后门攻击基于对模型训练数据的投毒，其独特之处在于将后门扩散采样和贝叶斯方法应用于投毒数据的分布。
引用
@article{arxiv.2402.05967,
title = {The last Dance : Robust backdoor attack via diffusion models and bayesian approach},
author = {Orson Mengara},
journal= {arXiv preprint arXiv:2402.05967},
year = {2025}
}
备注
Preprint (Last update, will never be modified again( correction of a sketch)): audio backdoor attack on Hugging Face's Transformer pre-trained models. This attack incorporates state-of-the-art Bayesian techniques, a modified Fokker-Planck equation (via Yang-Mills), and a diffusion model approach