神经架构后门
密码学与安全
2022-11-08 v2 机器学习
摘要
本文提出一个引人深思的问题：是否可能利用神经架构搜索(NAS)作为一种新攻击向量来发起此前不太可能的攻击？具体而言，我们提出EVAS，一种利用NAS寻找具有固有后门的神经架构并使用输入感知触发器利用此类漏洞的新攻击。与现有攻击相比，EVAS展现出许多有趣特性：(i) 不需要污染训练数据或扰动模型参数；(ii) 与下游微调甚至从头重训练无关；(iii) 天然规避依赖检查模型参数或训练数据的防御。通过在基准数据集上的广泛评估，我们表明EVAS具有高规避性、可迁移性和鲁棒性，从而扩展了攻击者的设计光谱。我们进一步刻画了EVAS背后的机制，其可能由识别触发器模式的架构级“捷径”所解释。本工作引发了对当前NAS实践的担忧，并指出了开发有效对策的潜在方向。
引用
@article{arxiv.2210.12179,
title = {Neural Architectural Backdoors},
author = {Ren Pang and Changjiang Li and Zhaohan Xi and Shouling Ji and Ting Wang},
journal= {arXiv preprint arXiv:2210.12179},
year = {2022}
}