基于无反向传播的零阶优化的设备内微调
机器学习
2026-05-06 v2 计算与语言
摘要
设备内微调是边缘 AI 系统的关键能力，必须在严格的内存限制下支持对不同 agentic 任务的适应。传统的基于反向传播（BP）的训练需要存储图层激活和优化器状态，这种需求可以通过检查点技术部分缓解。在模型权重必须完全驻留在设备内存中的边缘部署中，这种开销严重限制了可部署的最大模型规模。内存高效零阶优化（MeZO）通过仅使用前向评估来估计梯度，消除了存储中间激活或优化器状态的需求。这使得更大的模型能够适应于片上内存，尽管以可能更长的微调 wall-clock 时间为代价。本文首先提供关于在 BP 和 MeZO 训练下可容纳的相对模型规模的理论估计。我们随后数值验证了分析，表明只要为微调提供足够的 wall-clock 时间，MeZO 在设备内内存限制下具有准确性优势。
引用
@article{arxiv.2511.11362,
title = {On-Device Fine-Tuning via Backprop-Free Zeroth-Order Optimization},
author = {Prabodh Katti and Houssem Sifaou and Sangwoo Park and Bipin Rajendran and Osvaldo Simeone},
journal= {arXiv preprint arXiv:2511.11362},
year = {2026}
}
备注
Conference submission; Under review