一种使用脏标签翻转攻击的倒置标签后门方法
密码学与安全
2024-04-09 v2 人工智能
计算与语言
机器学习
信号处理
摘要
基于音频的机器学习系统经常使用公共或第三方数据，这些数据可能不准确。这使得在此类数据上训练的深度神经网络（DNN）模型面临潜在的数据投毒攻击。在这种攻击中，攻击者可以使用投毒数据训练DNN模型，从而可能降低其性能。另一种与我们的研究高度相关的数据投毒攻击是标签翻转，攻击者操纵一部分数据的标签。已有研究表明，即使攻击者能力有限，这些攻击也可能大幅降低系统性能。在本研究中，我们提出了一种名为“DirtyFlipping”的后门攻击，它使用脏标签技术“标签对标签”，在与目标类相关的选定数据模式中输入触发器（拍手声），从而实现隐蔽的后门。
引用
@article{arxiv.2404.00076,
title = {A Backdoor Approach with Inverted Labels Using Dirty Label-Flipping Attacks},
author = {Orson Mengara},
journal= {arXiv preprint arXiv:2404.00076},
year = {2024}
}
备注
Accept by "IEEE Access" let's take a look at our global approach to the DNN(s) model(s) deployment chain in production: Danger NLP-Speech (Trigger universal approach)