BODAME：基于双层优化的模型抽取防御方法
机器学习
2021-03-12 v1 密码学与安全
摘要
模型抽取攻击已成为使用机器学习的服务提供商面临的严重问题。我们考虑一种对抗性设置，在攻击者将利用查询访问对服务提供商的模型做出最佳猜测的假设下防止模型抽取，并提议构建一个替代模型，使攻击者模型的预测与真实模型的预测显著远离。我们将该问题表述为一个非凸约束双层优化问题，并证明对于核模型，它可转化为一个非凸 1-二次约束二次规划，且存在多项式时间算法以找到全局最优。此外，我们针对通过使用基于随机梯度下降的算法学习的更复杂模型，给出了一种可处理的转化和算法。数值实验表明，当攻击者与服务提供商的分布差异较大时，该替代模型相较于现有防御模型表现良好。我们还通过经验确认了替代模型的泛化能力。
引用
@article{arxiv.2103.06797,
title = {BODAME: Bilevel Optimization for Defense Against Model Extraction},
author = {Yuto Mori and Atsushi Nitanda and Akiko Takeda},
journal= {arXiv preprint arXiv:2103.06797},
year = {2021}
}
备注
18 pages