度量虚假的安全感

近来，若干论文揭示了所提出的对抗防御中梯度掩蔽的普遍性。依赖此现象的防御被视为失败且易被攻破。尽管如此，关于度量梯度掩蔽现象并实现不同网络间其程度比较的研究甚少。本文从可度量性视角考察梯度掩蔽，摒弃其二元现象的观点。我们提出并论证了若干度量指标，对疑似呈现不同梯度掩蔽程度的防御开展广泛实证测试。这些指标比强攻击计算开销更低，支持模型间比较，且无需针对特定模型定制攻击的大量时间投入。结果显示，部分指标能成功度量不同网络中梯度掩蔽的程度。