桥接纯化：有限保护泄漏可瓦解黑盒数据保护
机器学习
2025-05-15 v2
摘要
可用性攻击（或不可学习的示例）是一种防御性技术，允许数据所有者以一种方式修改数据集，以防止未经授权的机器学习模型有效学习，同时保持数据的预期功能。这导致发布了流行的黑盒工具（例如 API）供用户上传个人数据并获取受保护的数据。本文我们展示，如果可获得一小部分未受保护的分布内数据，此类黑盒保护将受到显著 compromise。具体而言，我们提出了一种保护泄漏的新威胁模型，其中对手可以（1）通过查询小型未受保护数据集来轻松获取（未受保护、受保护）配对；以及（2）训练扩散桥接模型以构建未受保护数据与受保护数据之间的映射。这种映射称为 BridgePure，可以有效地移除来自同一分布中以前未见的任何数据的保护。BridgePure 在分类和风格模仿任务上表现出优异的净化性能，暴露了黑盒数据保护的关键漏洞。我们建议实践者实施多级对策以缓解此类风险。
引用
@article{arxiv.2412.21061,
title = {BridgePure: Limited Protection Leakage Can Break Black-Box Data Protection},
author = {Yihan Wang and Yiwei Lu and Xiao-Shan Gao and Gautam Kamath and Yaoliang Yu},
journal= {arXiv preprint arXiv:2412.21061},
year = {2025}
}
备注
29 pages,18 figures