TinyML NLP 方案用于语义无线情感分类与隐私保护
机器学习
2025-07-08 v3 密码学与安全
信息论
math.IT
摘要
自然语言处理(NLP)操作,如语义情感分析和文本合成,通常引发隐私问题并需要大量的设备端计算资源。边缘端的集中学习(CL)提供了一种节能的替代方案,但需要收集原始数据,从而损害用户隐私。虽然联邦学习(FL)增强了隐私,但它对资源受限设备施加了高昂的计算能耗需求。本研究提供了在边缘设备上部署隐私保护、节能 NLP 模型的见解。我们提出语义分裂学习(SL)作为一种节能、隐私保护的 TinyML 框架,并将其与 FL 和 CL 在 Rayleigh 衰落和加性噪声存在的情况下进行了比较。我们的结果表明,SL 显著降低了计算功率和 CO2 排放,同时增强了隐私,表现为相较于 FL 重建误差增加四倍,相较于 CL 增加近十八倍。相比之下,FL 在隐私和效率之间提供了平衡的折中。我们的代码可在我们的 GitHub 代码库中获取以供复现:https://github.com/AhmedRadwan02/TinyEco2AI-NLP。
引用
@article{arxiv.2411.06291,
title = {TinyML NLP Scheme for Semantic Wireless Sentiment Classification with Privacy Preservation},
author = {Ahmed Y. Radwan and Mohammad Shehab and Mohamed-Slim Alouini},
journal= {arXiv preprint arXiv:2411.06291},
year = {2025}
}
备注
Accepted at EuCNC & 6G Summit 2025