不可学习样本的检测与防御

随着社交媒体的兴起，隐私保护变得日益关键。不可学习样本被提出用于通过降低深度学习模型的泛化能力，来避免在互联网上泄露个人信息。然而，我们的研究表明，不可学习样本很容易被检测到。我们提供了关于某些不可学习中毒数据集线性可分性的理论结果，以及基于简单网络的检测方法，大量实验表明该方法能识别所有现有的不可学习样本。不可学习样本可被简单网络检测的特性启发我们设计了一种新颖的防御方法。我们提出使用更强的数据增强，结合由简单网络生成的对抗噪声，来降低其可检测性，从而以较低成本提供针对不可学习样本的有效防御。大预算下的对抗训练是针对不可学习样本的一种广泛使用的防御方法。我们建立了中毒预算与对抗预算之间的定量准则，该准则决定了鲁棒的不可学习样本的存在性或对抗防御的失效。