Edge-FIT：面向隐私保护智能家居环境的量化LLM联邦指令调优
机器学习
2025-10-07 v1 人工智能
摘要
本文提出Edge-FIT（Federated Instruction Tuning on the Edge），即大型语言模型（LLM）的联邦指令调优框架。传统联邦学习（TFL）方法如FedAvg在面对LLM的庞大参数规模时会失败[3][6]。我们的Edge-FIT框架将联邦学习与4位量化低秩适配（QLORA）相结合，缓解了通信和计算开销的核心问题。我们通过筛选面向物联网领域的通用Databricks Dolly 15k数据集来演示此方法。实验结果显示，Edge-FIT调优的Llama 2(7B)实现0.89的F1分数。我们还使用3.8B Phi-3-mini模型验证了可行的权衡，证明Edge-FIT是面向家庭计算网关进行去中心化LLM部署的可扩展框架。
引用
@article{arxiv.2510.03284,
title = {Edge-FIT: Federated Instruction Tuning of Quantized LLMs for Privacy-Preserving Smart Home Environments},
author = {Vinay Venkatesh and Vamsidhar R Kamanuru and Lav Kumar and Nikita Kothari},
journal= {arXiv preprint arXiv:2510.03284},
year = {2025}
}
备注
7 pages, 1 figure