基于信息瓶颈目标的任务导向通信深层神经网络的对抗鲁棒性
机器学习
2024-12-16 v1 分布式、并行与集群计算
网络与互联网体系结构
图像与视频处理
摘要
本文探讨了基于信息瓶颈（Information Bottleneck, IB）目标的深度神经网络（DNN）在任务导向通信系统中的对抗鲁棒性。我们通过实证实验表明，虽然基于信息瓶颈的方法在针对下游任务的攻击方面提供了基本韧性，但依赖于任务导向通信的生成模型引入了新的漏洞。通过对多个数据集进行大量实验，我们分析了瓶颈深度和任务复杂度如何影响对抗鲁棒性。我们的关键发现表明，浅层变分瓶颈注入（Shallow Variational Bottleneck Injection, SVBI）在对抗鲁棒性方面不如深层变分信息瓶颈（Deep Variational Information Bottleneck, DVIB）方法，随着任务复杂度的增加，两者之间的差距也随之扩大。此外，我们发现基于信息瓶颈的目标在针对高强度显著像素的攻击方面表现出更强的鲁棒性，而在扰动大量低强度像素的攻击方面则不尽如意。最后，我们展示了依赖于生成模型来提取和恢复显著信息的任务导向通信系统具有更大的攻击面。这些结果突出了面向下一代通信系统在利用神经网络进行目标导向压缩时所需关注的安全问题。
引用
@article{arxiv.2412.10265,
title = {Adversarial Robustness of Bottleneck Injected Deep Neural Networks for Task-Oriented Communication},
author = {Alireza Furutanpey and Pantelis A. Frangoudis and Patrik Szabo and Schahram Dustdar},
journal= {arXiv preprint arXiv:2412.10265},
year = {2024}
}
备注
Submission to ICMLCN, 6 pages, 9 figures, 3 tables