RIFLE：基于鲁棒蒸馏的分布式学习框架用于资源受限物联网网络中的深度模型部署
机器学习
2026-02-10 v1 密码学与安全
分布式、并行与集群计算
网络与互联网体系结构
摘要
分布式学习（FL）是广泛应用于资源受限物联网（IoT）环境中的一种去中心化学习范式。这些设备通常依赖TinyML模型，通过与中心服务器共享梯度来协同训练全局模型，同时保持数据隐私。然而，随着数据异构性和任务复杂度的增加，TinyML模型往往不足以捕捉复杂模式，尤其是在极端非独立同分布（non-IID）条件下。此外，确保抗恶意客户端和投毒更新的鲁棒性仍是一个重大挑战。因此，本文引入了RIFLE——一个稳健、基于蒸馈的分布式学习框架，取而代之的是基于logit的信息传递。通过利用基于知识蒸馈的聚合方案，RIFLE能够在受限的IoT系统中训练深度模型，如VGG-19和Resnet18。此外，采用基于KL散度的验证机制，在不暴露原始数据的情况下量化客户更新的可靠性，实现了高信任度和隐私保护的同时。实验在三个基准数据集（MNIST、CIFAR-10和CIFAR-100）上的异构非IID条件下表明，RIFLE将误报检测降低最高可达87.5%，提高抗投毒攻击能力为62.5%，在仅10轮内实现准确率提升最高可达28.3%。值得注意的是，RIFLE将典型IoT设备（0.3 GFLOPS）上的VGG19训练时间从600多天缩短至仅1.39小时，使深度学习在资源受限网络中变得实用。
引用
@article{arxiv.2602.08446,
title = {RIFLE: Robust Distillation-based FL for Deep Model Deployment on Resource-Constrained IoT Networks},
author = {Pouria Arefijamal and Mahdi Ahmadlou and Bardia Safaei and Jörg Henkel},
journal= {arXiv preprint arXiv:2602.08446},
year = {2026}
}
备注
This paper has been accepted for publication in IEEE ICC 2026 and will be indexed in the IEEE Xplore Digital Library