不可学聚类:面向标签不可知不可学样本
密码学与安全
2023-03-24 v4 机器学习
摘要
针对互联网上视觉隐私泄露开发不可学样本(UEs)的兴趣日益增长。UEs 是添加了不可见但不可学噪声的训练样本,已被发现可防止机器学习模型的未授权训练。UEs 通常通过带代理模型的两层优化框架生成,以去除(最小化)原始样本的错误,然后用于保护数据免受未知目标模型之害。然而,现有 UE 生成方法均依赖称为标签一致性的理想假设,即假设黑客与保护者对于给定的样本持有相同标签。本工作中,我们提出并倡导更实用的标签不可知设定,其中黑客可能以不同于保护者的方式利用受保护数据。例如,保护者持有的 m 类不可学数据集可能被黑客当作 n 类数据集利用。现有 UE 生成方法在此挑战性设定下失效。为应对该挑战,我们提出一种称为不可学聚类(UCs)的新技术,通过簇级扰动生成标签不可知不可学样本。此外,我们提议利用如 CLIP 之类的视觉语言预训练模型(VLPMs)作为代理模型,以提升所构造 UCs 向多样领域的可迁移性。我们在不同数据集、目标模型乃至商业平台 Microsoft Azure 与百度 PaddlePaddle 的多种设定下实证验证了所提方法的有效性。代码见 \url{https://github.com/jiamingzhang94/Unlearnable-Clusters}。
引用
@article{arxiv.2301.01217,
title = {Unlearnable Clusters: Towards Label-agnostic Unlearnable Examples},
author = {Jiaming Zhang and Xingjun Ma and Qi Yi and Jitao Sang and Yu-Gang Jiang and Yaowei Wang and Changsheng Xu},
journal= {arXiv preprint arXiv:2301.01217},
year = {2023}
}
备注
CVPR2023