基于预训练模型量化的边缘 IoT 可持续性联邦学习
机器学习
2026-03-19 v1 人工智能
摘要
联邦学习 (FL) 使 Internet of Things (IoT) 设备能够实现隐私保护的智能,但由于频繁的上行传输,其碳足迹显著,能耗成本高昂。虽然越来越多的预训练模型可部署在边缘设备上,但其用于降低精细化能耗开销的潜力仍未得到充分探索。在本工作中,我们提出 QuantFL,一个可持续的 FL 框架,利用预训练初始化以实现激进且计算轻量的量化。我们展示,预训练自然集中更新统计信息,使我们能够在无需复杂误差反馈机制的能耗开销下使用内存高效的桶式量化。在 MNIST 和 CIFAR-100 上,QuantFL 将总通信量降低 40%(相当于全精度下行的约 总比特减少;上行或下行量化时 ),在严格的带宽预算下与未压缩基线持平或超越;BU 在 MNIST 上达到 89.00%(CIFAR-100 上为 66.89%)测试准确率,仅使用数量级更少的比特。我们也考虑上行和下行成本,并对量化级别和初始化进行消融实验。QuantFL 为受电池约束的 IoT 网络提供了实用的“绿色”配方,实现规模化训练。
引用
@article{arxiv.2603.17507,
title = {QuantFL: Sustainable Federated Learning for Edge IoT via Pre-Trained Model Quantisation},
author = {Charuka Herath and Yogachandran Rahulamathavan and Varuna De Silva and Sangarapillai Lambotharan},
journal= {arXiv preprint arXiv:2603.17507},
year = {2026}
}