利用边缘特征进行分布式机器学习中可迁移的对抗攻击

随着机器学习模型在物联网边缘环境中日益广泛部署，模型在多个计算节点上分割的分布式深度学习范式引入了新的安全风险维度。不同于传统推理设置，这些分布式管道跨越异构节点和通信层，因而暴露了更大的攻击面给潜在的对手。基于这些动机，本文探索了一个被忽视的漏洞：即使边缘和云端组件均不可访问（即黑盒），拦截它们之间传输的中间特征的攻击者仍可能构成严重威胁。我们证明，在这些温和且现实的假设下，攻击者可以构建高度可迁移的代理模型，使整个深度学习系统对躲避攻击显得更加脆弱。特别是，拦截的特征可以被有效分析和利用，从而提炼出能够制造高度可迁移对抗样本的代理模型。为此，我们提出了一种专为分布式设置设计的利用策略，包括使用简单统计分析从向量化传输特征中重建原始张量形状，以及相应地调整代理体系结构以实现有效的特征提炼。已对该策略训练的代理模型进行全面且系统的实验评估，证明这些模型在提升对抗攻击可迁移性方面取得显著成果。这一发现凸显了在设计安全分布式深度学习系统时，必须考虑中间特征泄漏的紧迫需求。