利用密度比估计检测对抗样本

机器学习模型，尤其是基于深度架构的模型，被用于从自动驾驶汽车到医疗诊断的日常应用中。已表明此类模型极易受对抗样本的攻击，对抗样本与人眼难以区分的真实样本无异，却导致模型以高置信度给出错误分类。对抗样本的影响深远，其高效检测仍是一个开放问题。我们提出使用直接密度比估计作为一种高效的模型无关度量来检测对抗样本。我们所提方法在单通道与多通道样本上同样有效，且适用于不同的对抗样本生成方法。我们还提出一种利用密度比估计生成对抗样本的方法，并附加保持密度比的约束。