机器不可知性验证脆弱

随着隐私问题在机器学习领域的日益突出，数据所有者现可选择利用机器不可知来从机器学习模型中移除其数据，遵循最新立法。为提高机器不可知的透明度并避免模型提供商的不诚实行为，已提出 various 验证策略。这些策略使数据所有者能够确定其目标数据是否已有效从模型中被不可知。然而，关于机器不可知验证的安全问题的理解仍处于初步阶段。本文我们探索了一个新颖的研究问题：模型提供商是否可绕过验证策略而保留所谓不可知的数据信息。我们的调查导致了一个悲观性答案：机器不可知的验证是脆弱的。具体而言，我们将当前关于潜在不诚实模型提供商的验证策略分为两类。随后，我们引入两种新型对抗性不可知过程，能够绕过这两类。我们通过理论分析和使用真实数据集进行实证实验验证了我们方法的有效性。这一研究突显了机器不可知验证的漏洞和局限，为进一步研究机器不可知的安全性指明了方向。