面向分类器的查询受限黑盒攻击
密码学与安全
2017-12-27 v1 机器学习
机器学习
摘要
我们研究对机器学习分类器的黑盒攻击，其中对模型的每次查询都会给攻击者带来一定代价或检测风险。我们明确将最小化查询次数作为首要目标。具体而言，我们考虑在特征修改代价预算受限的条件下攻击机器学习分类器，同时最小化查询次数，其中每次查询仅返回一个类别和置信度分数。我们描述了一种使用贝叶斯优化来最小化查询次数的方法，并发现对于特征修改代价预算较低的场景，查询次数可降至随机策略所需数量的约十分之一。
引用
@article{arxiv.1712.08713,
title = {Query-limited Black-box Attacks to Classifiers},
author = {Fnu Suya and Yuan Tian and David Evans and Paolo Papotti},
journal= {arXiv preprint arXiv:1712.08713},
year = {2017}
}
备注
5 Pages, 2017 NIPS workshop on machine learning and computer security (12/08/2017-12/09/2017)