分布式 AI 网络中语义通信对齐的零遗忘保持
机器学习
2024-12-02 v1 人工智能
信号处理
摘要
未来的通信网络预计将连接大量分布式人工智能 (AI)。利用 AI 对的先验知识进行对齐处理，有望将高维数据传输转换为高度压缩的语义通信 (SC)。然而，为适应本地数据分布和用户偏好，AI 通常会适应不同的领域，这从根本上扭曲了 SC 对齐。本文提出了一种零遗忘域适应 (ZFDA) 框架来保持 SC 对齐。为防止 DA 改变大量 AI 的神经参数，我们设计稀疏 additive 修改 (SAM) 用于参数，这些参数可以高效存储并关闭以恢复 SC 对齐。为优化 SAM，我们将其解耦为可处理的连续变量和二进制掩码，然后通过基于评分的优化处理二进制掩码。在图像传输的 SC 系统上进行的实验评估表明，所提出的框架在几乎不损失 DA 性能甚至在某些情况下得到改进的代价下，完美地保持了 SC 对齐，额外内存占用不足 1%。
引用
@article{arxiv.2411.19385,
title = {Zero-Forget Preservation of Semantic Communication Alignment in Distributed AI Networks},
author = {Jingzhi Hu and Geoffrey Ye Li},
journal= {arXiv preprint arXiv:2411.19385},
year = {2024}
}