以人脸变形攻击为例的面向安全相关应用的准确且鲁棒神经网络

人工神经网络往往只学习任务所需的内容。对训练数据的操纵可抵消此现象。本文中，我们研究训练数据的不同改动效果，这些改动限制了可用于决策的信息量与位置。我们分析了在不同训练数据修改下训练的网络针对语义攻击与黑盒攻击的准确性与鲁棒性，具体以变形攻击为例。变形攻击是针对生物特征人脸识别系统的一种攻击，该系统被欺骗以用同一合成人脸图像匹配两个不同个体。此类合成图像可通过对齐并混合应被该图像匹配的两个个体的图像来创建。