EdgeFM:利用基础模型在边缘端进行开放集学习
机器学习
2023-11-27 v3
摘要
借助深度学习(DL)算法与芯片的进步,DL 模型已被广泛部署于 IoT 设备上。然而,边缘设备资源有限,使得这些端侧 DL 模型难以泛化至多样的环境与任务。尽管近期出现的基础模型(FMs)展现出令人印象深刻的泛化能力,如何在中资源受限的边缘设备上有效利用 FMs 的丰富知识仍未被探索。本文提出 EdgeFM,一种具有开放集识别能力的边缘-云协同新系统。EdgeFM 选择性上传无标签数据以查询云端 FM,并为边缘模型定制特定知识与架构。同时,EdgeFM 在运行时依据数据不确定性与动态网络变化进行动态模型切换,确保精度始终接近原始 FM。我们在两个边缘平台上使用两个 FMs 实现 EdgeFM,并在三个公开数据集与两个自采集数据集上评估。结果表明,相较基线,EdgeFM 至多降低 3.2 倍端到端延迟,并取得 34.3% 的精度提升。
引用
@article{arxiv.2311.10986,
title = {EdgeFM: Leveraging Foundation Model for Open-set Learning on the Edge},
author = {Bufang Yang and Lixing He and Neiwen Ling and Zhenyu Yan and Guoliang Xing and Xian Shuai and Xiaozhe Ren and Xin Jiang},
journal= {arXiv preprint arXiv:2311.10986},
year = {2023}
}
备注
Accepted to the 21th ACM Conference on Embedded Networked Sensor Systems (SenSys 2023)