对抗域中针对黑盒分类器的数据驱动探索性攻击
机器学习
2018-03-28 v1 密码学与安全
机器学习
摘要
现代网络应用旨在创造文明级别的影响力，但它们已变得容易受到对抗活动的威胁，下一次网络攻击可以采取任何形式并源自任何地方。攻击规模和复杂性的不断增加促使了对数据驱动解决方案的需求，而机器学习构成了许多网络安全系统的核心。机器学习在设计时并未考虑安全性，且在对抗域中，要求训练和测试数据遵循相似分布的平稳性基本假设被违反。本文提出了基于分类系统的对抗者视角。基于形式化的对抗模型，提出了 Seed-Explore-Exploit 框架，用于模拟针对分类器的数据驱动和逆向工程攻击的生成。在 10 个真实世界数据集上并使用 Google Cloud Prediction Platform 的实验评估，证明了分类器固有的脆弱性以及在没有任何关于分类器类型、训练数据或应用领域显式信息的情况下进行规避的容易程度。所提出的框架、算法和经验评估作为对这些漏洞的白帽分析，旨在促进安全机器学习框架的开发。
引用
@article{arxiv.1703.07909,
title = {Data Driven Exploratory Attacks on Black Box Classifiers in Adversarial Domains},
author = {Tegjyot Singh Sethi and Mehmed Kantardzic},
journal= {arXiv preprint arXiv:1703.07909},
year = {2018}
}