面向联邦 AI 赋能关键基础设施的抗泄漏与碳中和聚合
密码学与安全
2024-05-27 v1
摘要
AI 赋能的关键基础设施（ACI）将人工智能技术集成到various essential systems and services that are vital to the functioning of society，为效率、安全和韧性带来了重大意义。虽然在 ACI 中采用去中心化 AI 方法（如联邦学习技术）是可行的，但私有和敏感数据仍然容易通过梯度优化发生数据重建攻击。本文提出压缩差分隐私聚合（CDPA），一种面向 ACI 网络的抗泄漏、通信高效且碳中和的方法。具体而言，CDPA 引入了一种新颖的随机位翻转机制作为其主要创新。该机制首先将梯度转换为特定的二进制表示，然后以一定概率选择性地翻转受掩码保护的位。通过在联邦学习语境中应用向量量化技术，所提出的位翻转引入更大的噪声方差，同时提供差分隐私保护并显著节省能源。实验评估表明，CDPA 可将通信成本减半，同时保持模型效用。此外，我们展示了 CDPA 在计算机视觉和自然语言处理任务中均能有效防御最新的数据重建攻击。我们指出，现有基准相比之下产生 2.6 倍至 100 倍以上的碳排放。我们希望本文所开发的 CDPA 能为面向联邦 AI 赋能关键基础设施的更平衡的实用性与隐私性之间的权衡、韧性保护以及更低通信开销下的碳抵消提供指导。
引用
@article{arxiv.2405.15258,
title = {Leakage-Resilient and Carbon-Neutral Aggregation Featuring the Federated AI-enabled Critical Infrastructure},
author = {Zehang Deng and Ruoxi Sun and Minhui Xue and Sheng Wen and Seyit Camtepe and Surya Nepal and Yang Xiang},
journal= {arXiv preprint arXiv:2405.15258},
year = {2024}
}