面向协作 DNN 推断的噪声感知误分类攻击检测
计算机视觉与模式识别
2026-03-19 v1
摘要
深度神经网络(DNN)的对象分类协作推断——其中资源受限的终端设备卸载部分处理数据至远程边缘服务器以完成端到端处理——正成为边缘 AI 的关键使能技术。然而，这种边缘卸载暴露于恶意数据注入，导致难以检测的隐蔽误分类。在本文中，我们提出一种半灰盒且噪声感知的异常检测框架，动力源为变分自编码器(VAE)，以捕获由对抗性操纵引起的偏差。所提框架包含一种稳健的噪声感知特征，捕获环境噪声的特征行为以提高检测准确性，同时降低误报率。我们的评估使用流行对象分类 DNN 显示，在真实噪声条件下，所提检测方法具有鲁棒性（达到 90% 的 AUROC），并揭示了由特征相似性和 elevated 噪声水平引起的局限性。
引用
@article{arxiv.2603.17914,
title = {Noise-Aware Misclassification Attack Detection in Collaborative DNN Inference},
author = {Shima Yousefi and Saptarshi Debroy},
journal= {arXiv preprint arXiv:2603.17914},
year = {2026}
}
备注
This work has been accepted for publication in IEEE/ACM CCGrid 2026