通过数据变换增强机器学习系统的鲁棒性
密码学与安全
2017-12-01 v4 机器学习
摘要
我们提出使用数据变换作为针对 ML 分类器规避攻击的防御手段。我们提出并研究了结合多种数据变换的策略，包括通过主成分分析（Principal Component Analysis）的降维和数据“反白化”，以增强机器学习的韧性，目标同时针对分类和训练阶段。我们经验性地评估并证明了数据线性变换作为防御规避攻击机制的可行性，使用了多个真实世界数据集。我们的关键发现是：该防御 (i) 对文献中已知最好的规避攻击有效，使得知晓该防御的白盒攻击者为成功攻击所需资源增加两倍；(ii) 适用于一系列 ML 分类器，包括支持向量机和深度神经网络；(iii) 可泛化到多个应用领域，包括图像分类和人类活动分类。
引用
@article{arxiv.1704.02654,
title = {Enhancing Robustness of Machine Learning Systems via Data Transformations},
author = {Arjun Nitin Bhagoji and Daniel Cullina and Chawin Sitawarin and Prateek Mittal},
journal= {arXiv preprint arXiv:1704.02654},
year = {2017}
}
备注
15 pages