Bucks for Buckets (B4B):针对编码器窃取攻击的主动防御
机器学习
2023-11-06 v2
摘要
机器学习即服务(MLaaS)API提供即用且高实用性的编码器,可为给定输入生成向量表示。由于这些编码器训练成本极高,它们成为模型窃取攻击的诱人目标——攻击者在攻击过程中利用对API的查询访问,以远低于原始训练成本的费用在本地复刻编码器。我们提出Bucks for Buckets (B4B),这是首个在攻击发生时阻止窃取且不降低合法API用户表示质量的主动防御。我们的防御基于如下观察:试图窃取编码器功能的对手所返回的表示覆盖的嵌入空间比例,显著大于利用编码器解决特定下游任务的合法用户的表示覆盖比例。B4B利用这一点,根据用户对边嵌入空间的覆盖度自适应调整返回表示的实用性。为防止自适应对手通过简单创建多个用户账户(女巫)规避我们的防御,B4B还对各用户的表示进行独立变换。这阻止了对手直接聚合多个账户的表示以创建其窃取的编码器副本。我们的主动防御为通过公共API安全共享和普及编码器开辟了新路径。
引用
@article{arxiv.2310.08571,
title = {Bucks for Buckets (B4B): Active Defenses Against Stealing Encoders},
author = {Jan Dubiński and Stanisław Pawlak and Franziska Boenisch and Tomasz Trzciński and Adam Dziedzic},
journal= {arXiv preprint arXiv:2310.08571},
year = {2023}
}
备注
Accepted at NeurIPS2023