面向深度神经网络语义鲁棒性分析的研究
计算机视觉与模式识别
2021-01-19 v4 密码学与安全
机器学习
摘要
尽管深度神经网络（DNNs）在各种视觉任务上表现令人瞩目，它们仍表现出针对语义基元（如物体姿态）的错误高敏感性。我们提出一种基于理论依据的 DNN 在语义空间中的鲁棒性分析。我们通过将 DNN 全局行为可视化为语义图来定性分析不同 DNN 的语义鲁棒性，并观察到某些 DNN 的有趣行为。由于生成这些语义图在语义空间维度较高时难以扩展，我们开发了一种自底向上的方法来检测 DNN 的鲁棒区域。为此，我们将寻找网络鲁棒语义区域的问题形式化为优化积分界，并推导出区域边界的更新方向表达式。我们利用所开发的公式定量评估不同流行网络架构的语义鲁棒性。我们通过大量实验表明，若干网络虽然在相同数据集上训练且具备可比精度，其在语义鲁棒性上未必表现相似。例如，InceptionV3 精度更高，但语义鲁棒性不如 ResNet50。我们希望该工具将成为理解 DNN 语义鲁棒性的里程碑。
引用
@article{arxiv.1904.04621,
title = {Towards Analyzing Semantic Robustness of Deep Neural Networks},
author = {Abdullah Hamdi and Bernard Ghanem},
journal= {arXiv preprint arXiv:1904.04621},
year = {2021}
}
备注
Presented at European conference on computer vision (ECCV 2020) Workshop on Adversarial Robustness in the Real World ( https://eccv20-adv-workshop.github.io/ ) [best paper award]. The code is available at https://github.com/ajhamdi/semantic-robustness