分布式学习中的仅边缘侧通用对抗攻击
密码学与安全
2025-12-08 v2 人工智能
计算机视觉与模式识别
摘要
分布式学习框架将神经网络模型划分至多个计算节点，提升了协同边缘-云系统的效率，但也可能引入针对逃避攻击的新漏洞，常表现为对抗扰动。本文提出一种新威胁模型，探讨当攻击者仅拥有模型边缘部分（即初始网络层）访问权限时，生成通用对抗扰动（UAP）的可行性。与需要完整模型知识的传统攻击不同，我们的方法表明攻击者可通过操纵边缘侧的关键特征表示，在未知的云端组件中诱导有效的错误预测。基于该威胁模型，我们提出了仅边缘侧的非定向和定向 UAP 形式，旨在控制分割点之前的中间特征。ImageNet 实验结果显示对未知云端部分具有强攻击迁移性，并将该方法与经典白盒和黑盒技术对比，凸显其有效性。此外，我们分析了攻击者仅凭边缘侧知识实现定向对抗效果的能力，揭示了跨多个网络的有趣行为。通过引入分割推理中首个仅边缘侧知识的对抗攻击，本工作强调了在对抗鲁棒性中应对部分模型访问的重要性，鼓励该领域进一步研究。
引用
@article{arxiv.2411.10500,
title = {Edge-Only Universal Adversarial Attacks in Distributed Learning},
author = {Giulio Rossolini and Tommaso Baldi and Alessandro Biondi and Giorgio Buttazzo},
journal= {arXiv preprint arXiv:2411.10500},
year = {2025}
}