深度学习驱动的语义通信对后门(木马)攻击的脆弱性
密码学与安全
2022-12-22 v1 信息论
机器学习
网络与互联网体系结构
信号处理
math.IT
摘要
本文强调了深度学习驱动的语义通信对后门(木马)攻击的脆弱性。语义通信旨在从发射机向接收机传递信息的同时传达期望的含义。作为自动编码器一部分、由两个深度神经网络(DNNs)表示的编码器-解码器对被训练为通过在有限次信道使用上传输小尺寸的潜特征，在接收机处重建诸如图像等信号。同时，接收机上语义任务分类器的另一个DNN与自动编码器联合训练，以检查传达给接收机的含义。DNNs复杂的决策空间使语义通信易受对抗性操纵。在后门(木马)攻击中， adversary向一小部分训练样本添加触发器并将标签改为目标标签。当考虑图像传输时，触发器可添加至图像，或等效地添加至相应发送或接收的信号。在测试时，adversary通过向语义通信的编码器(或解码器)提供投毒样本作为 inputs来激活这些触发器。后门攻击可有效将投毒输入样本所传递的语义信息更改为目标含义。随着语义通信性能随信噪比和信道使用次数而提升，后门攻击的成功率也随之增加。此外，增加训练数据中的木马比例使攻击更成功。同时，该攻击对未投毒输入样本的影响有限。总体而言，本文表明后门攻击对语义通信构成严重威胁，并提出了在存在后门攻击时保护传递信息含义的新颖设计准则。
引用
@article{arxiv.2212.11205,
title = {Vulnerabilities of Deep Learning-Driven Semantic Communications to Backdoor (Trojan) Attacks},
author = {Yalin E. Sagduyu and Tugba Erpek and Sennur Ulukus and Aylin Yener},
journal= {arXiv preprint arXiv:2212.11205},
year = {2022}
}