在神经架构搜索中投毒搜索空间
机器学习
2021-06-29 v1 密码学与安全
神经与进化计算
机器学习
摘要
深度学习已被证明是医疗健康和自动驾驶等多个领域中目标检测与图像分割的高效问题解决工具。这一性能的核心在于神经架构设计，其严重依赖研究人员的领域知识与先验经验。近来，给定可能操作的初始搜索空间寻找最优架构的过程被神经架构搜索（NAS）自动化。本文中，我们评估了其中一种称为高效NAS（ENAS）的算法对于在原始搜索空间上以精心设计的无效操作进行数据无关投毒攻击的鲁棒性。通过在CIFAR-10数据集上评估算法性能，我们实证展示了我们的新颖搜索空间投毒（SSP）方法与多实例投毒攻击如何利用ENAS控制器中的设计缺陷，导致子网络预测错误率膨胀。我们的结果揭示了在使用NAS进行更具对抗鲁棒性的架构搜索时所必须克服的挑战。
引用
@article{arxiv.2106.14406,
title = {Poisoning the Search Space in Neural Architecture Search},
author = {Robert Wu and Nayan Saxena and Rohan Jain},
journal= {arXiv preprint arXiv:2106.14406},
year = {2021}
}
备注
All authors contributed equally. Appears in AdvML Workshop @ ICML2021: A Blessing in Disguise: The Prospects and Perils of Adversarial Machine Learning