探索深度人工神经网络的鲁棒架构
机器学习
2023-02-06 v2 人工智能
摘要
深度人工神经网络 (DANNs) 的架构常被研究以改进其预测性能。然而,DANN 的架构与其对噪声和对抗攻击的鲁棒性之间的关系较少被探索。我们研究 DANN 的鲁棒性如何与其底层图架构或结构相关联。本研究:(1) 首先使用图论鲁棒性度量探索 DANN 架构的设计空间;(2) 将图转换为 DANN 架构,以在各种图像分类任务上进行训练/验证/测试;(3) 探索训练后的 DANN 对噪声和对抗攻击的鲁棒性与通过其底层架构的图论度量估计的鲁棒性之间的关系。我们表明,底层图的拓扑熵和 Olivier-Ricci 曲率可以量化 DANN 的鲁棒性表现。所述关系对于复杂任务和大型 DANN 更强。我们的工作将使 autoML 和神经架构搜索领域能够探索鲁棒且准确的 DANN 的设计空间。
引用
@article{arxiv.2106.15850,
title = {Exploring Robust Architectures for Deep Artificial Neural Networks},
author = {Asim Waqas and Ghulam Rasool and Hamza Farooq and Nidhal C. Bouaynaya},
journal= {arXiv preprint arXiv:2106.15850},
year = {2023}
}
备注
27 pages, 16 figures