不可学样本带来虚假的安全感：用可学样本刺穿不可利用数据
机器学习
2023-10-04 v5 密码学与安全
计算机视觉与模式识别
摘要
保护数据免遭未经授权的利用对于隐私和安全至关重要，尤其在对抗性攻击、成员推断攻击等安全漏洞研究近期泛滥的背景下。为此，近来提出了“不可学样本”（unlearnable examples, UEs）作为一种引人注目的保护手段，通过对数据添加难以察觉的扰动，使得在其上训练的模型无法在原始干净分布上准确分类。遗憾的是，我们发现 UEs 提供了一种虚假的安全感，因为它们无法阻止未授权用户利用其他未受保护的数据来移除保护，从而将不可学数据重新变为可学。受此观察启发，我们正式定义了一种新威胁，引入“可学未授权样本”（learnable unauthorized examples, LEs），即保护被移除的 UEs。该方法的核心是一个新颖的净化过程，将 UEs 投影到 LEs 的流形上。这通过一个新颖的联合条件扩散模型实现，该模型以 UEs 与 LEs 之间的像素和感知相似性为条件对 UEs 去噪。大量实验表明，LE 在各种场景下针对有监督 UEs 和无监督 UEs 均取得了最先进的对抗性能，这是首个跨有监督学习与无监督学习、可泛化的 UEs 对策。我们的代码见 \url{https://github.com/jiangw-0/LE_JCDP}。
引用
@article{arxiv.2305.09241,
title = {Unlearnable Examples Give a False Sense of Security: Piercing through Unexploitable Data with Learnable Examples},
author = {Wan Jiang and Yunfeng Diao and He Wang and Jianxin Sun and Meng Wang and Richang Hong},
journal= {arXiv preprint arXiv:2305.09241},
year = {2023}
}
备注
Accepted in MM 2023