FaceHack：利用面部特征触发后门人脸识别系统
计算机视觉与模式识别
2020-06-23 v1 机器学习
摘要
机器学习（ML）的最新进展为其在实际应用中的广泛使用开辟了新途径。具体而言，人脸识别从社交媒体平台中简单的好友推荐，到机场自动入境生物特征验证的关键安全应用均有使用。考虑到这些场景，此类 ML 算法的安全漏洞会带来严重后果的严重威胁。近期工作表明，通常用于人脸识别系统的深度神经网络（DNN）易受后门攻击；换言之，DNN 在存在独特触发器时变为恶意。为保持不易察觉的共性特征，理想触发器应小巧、局部化，且通常不属于主图像的一部分。因此，检测机制侧重于从统计上或通过重建检测这些独特的基于触发器的离群值。本工作中，我们证明对面部特征的特定改变也可用于触发 ML 模型中的恶意行为。面部属性的改变可通过社交媒体滤镜人为嵌入，或通过面部肌肉运动自然引入。从构造上看，我们的触发器大、适应输入，并散布于整个图像。我们评估了攻击的成功率，并验证其不干扰模型的性能标准。我们还通过用最先进的防御手段详尽测试，证实了触发器的不可检测性。
引用
@article{arxiv.2006.11623,
title = {FaceHack: Triggering backdoored facial recognition systems using facial characteristics},
author = {Esha Sarkar and Hadjer Benkraouda and Michail Maniatakos},
journal= {arXiv preprint arXiv:2006.11623},
year = {2020}
}