针对移动外泄机器学习分类器的新型数据投毒攻击
密码学与安全
2022-10-24 v1 系统与控制
系统与控制
摘要
近期多数研究揭示了若干漏洞，可能危及模型完整性，并在近年来为网络安全开启了新契机。本文主要关注涉及标签翻转的数据投毒攻击，此类攻击发生于训练阶段，攻击者的目的在于通过大幅降低模型整体准确率和/或实现特定样本误分类来破坏目标机器学习模型的完整性。本文旨在提出两种基于标签翻转的新型数据投毒攻击，攻击目标为一系列使用移动外泄数据用于恶意软件检测的机器学习分类器。据此，所提攻击被证明为模型无关，已成功破坏多种机器学习模型；如Logistic回归、决策树、随机森林与KNN等。第一种攻击随机执行标签翻转，第二种攻击仅对两个类别中特定一类执行标签翻转。我们进一步详细分析各攻击的影响，重点考察准确率下降与误分类率。最后，本文通过建议开发一种可提供可行检测与/或缓解机制的防御技术，指明未来研究方向；该技术应能使目标模型对潜在攻击者具备一定鲁棒性。
引用
@article{arxiv.2210.11592,
title = {New data poison attacks on machine learning classifiers for mobile exfiltration},
author = {Miguel A. Ramirez and Sangyoung Yoon and Ernesto Damiani and Hussam Al Hamadi and Claudio Agostino Ardagna and Nicola Bena and Young-Ji Byon and Tae-Yeon Kim and Chung-Suk Cho and Chan Yeob Yeun},
journal= {arXiv preprint arXiv:2210.11592},
year = {2022}
}
备注
arXiv admin note: substantial text overlap with arXiv:2202.10276