抵御模型逆向攻击的隐私保护任务导向语义通信
信息论
2023-12-07 v1 math.IT
摘要
语义通信已被确定为第六代无线网络的核心技术。近期，面向低延迟推理和有限带宽的任务导向语义通信被提出。尽管仅传输任务相关信息确实能保护一定程度的用户隐私，但攻击者可能应用模型反演技术来重建原始数据或提取有用信息，从而侵犯用户隐私。为减轻隐私侵犯，本文提出了一种信息瓶颈与对抗学习方法来保护用户隐私免受模型反演攻击。具体而言，我们基于信息瓶颈理论从输入中提取任务相关特征。为克服高维空间中互信息计算的困难，我们推导出一个变分上界来估计真实互信息。为防止攻击者从任务相关特征重建数据，我们利用对抗学习训练编码器，通过最大化重建失真来欺骗攻击者。此外，考虑到信道变化对隐私-效用权衡的影响以及手动调整各损失权重的困难，我们提出了一种自适应权重调整方法。数值结果表明，所提方法能在不明显影响任务性能的前提下有效保护隐私，并实现比基线方法更好的隐私-效用权衡。
引用
@article{arxiv.2312.03252,
title = {Privacy-Preserving Task-Oriented Semantic Communications Against Model Inversion Attacks},
author = {Yanhu Wang and Shuaishuai Guo and Yiqin Deng and Haixia Zhang and Yuguang Fang},
journal= {arXiv preprint arXiv:2312.03252},
year = {2023}
}