鲁棒 SleepNets

最先进的卷积神经网络在人脸识别与物体分类等机器学习任务中表现出色，但在存在对抗攻击时性能显著下降。在部署机器学习模型的机器关键系统中，利用鲁棒模型来处理现实世界中广泛的变异性与可能使用对抗攻击的恶意行为者至关重要。在本研究中，我们调查闭眼检测以防止与驾驶员脱离和驾驶员 drowsiness 相关的车辆事故。具体地，我们聚焦该应用域中的对抗攻击，但强调该方法可应用于许多其他域。我们开发两个检测闭眼的模型：第一个基于眼睛图像，第二个基于人脸图像。我们用投影梯度下降、快速梯度符号与 DeepFool 方法对抗攻击这些模型，并报告对抗成功率。我们还研究训练数据增强的效果。最后，我们在扰动图像上对抗训练相同模型，并报告针对这些攻击的防御成功率。我们希望我们的研究通过开展捕获驾驶员人脸图像并在因 drowsiness 致闭眼时警报，来为防止潜在车辆事故奠定基础。