缓解网络安全领域深度学习模型受对抗样本攻击的脆弱性
密码学与安全
2019-05-10 v1 机器学习
摘要
已知深度学习模型通过在大数据集上采用若干 epoch 与训练样本以最优精度解决分类与回归问题。然而,这并不意味着它们可抵御攻击或不存在漏洞。新部署的系统,尤其在公共环境(即公共网络)中,易受来自各类实体的攻击。此外,关于深度学习系统的已发表研究(Goodfellow et al., 2014)已确定大量攻击点以及广泛的攻击面,并有证据表明受到来自对抗样本的利用。对这些系统的成功利用可能导致严重的现实后果。例如,(1) 对运行深度强化学习系统的自动驾驶汽车的对抗攻击会直接造成对人的误分类,引起意外事故。(2) 自动驾驶车辆误读红灯信号可能导致车辆撞上另一辆车。(3) 将人行横道误分类为交叉路口车道可能导致车祸。这仅是冰山一角,计算机视觉部署并非完全聚焦于自动驾驶汽车,还涉及许多其他领域——这些都将对现实世界产生明确影响。这些漏洞必须在开发早期阶段加以缓解。在现实部署之前,于全球层面制定并实施基线安全标准势在必行。
引用
@article{arxiv.1905.03517,
title = {Mitigating Deep Learning Vulnerabilities from Adversarial Examples Attack in the Cybersecurity Domain},
author = {Chris Einar San Agustin},
journal= {arXiv preprint arXiv:1905.03517},
year = {2019}
}
备注
10 pages 5 figures