欺骗之度：机器不可穿盾中的数据伪造分析

受隐私法规及消除有害数据影响的需求驱动，机器不可穿盾旨在修改已训练模型，使其有效「忘记」指定数据。验证不可穿盾的一个关键挑战是「伪造」——对手制造数据以模拟目标点的梯度，从而在实际未移除信息的情况下呈现出不可穿盾的外观。为捕捉这一现象，我们考虑梯度近似目标梯度 within tolerance $\epsilon$ 的数据点集合——称为 $\epsilon$-伪造集，并 developing 其分析框架。对于线性回归和单层神经网络，我们显示该集合的 Lebesgue 测度较小。其规模约为 $\epsilon$，当 $\epsilon$ 足够小时为 $\epsilon^d$。更一般地，在温和正则性假设下，我们证明伪造集测度随 $\epsilon^{(d-r)/2}$ 衰减，其中 $d$ 为数据维数，$r<d$ 为矩阵中对应「小」奇异值的右奇异向量向量空间维数。扩展到小批 SGD 和几乎处处光滑损失函数后仍得到相同的渐近比例。此外，我们建立概率界，表明在非退化数据分布下，随机抽取伪造点的概率趋于零。这些结果表明，对手式伪造在根本上受到限制，假不可穿盾声明在原则上可以被检测。