p-Meta:面向设备端深度模型自适应
机器学习
2022-06-28 v1 计算机视觉与模式识别
摘要
物联网设备收集的数据通常具有隐私性,且跨用户差异巨大。因此,学习需用可用的代表性数据样本预训练模型,将预训练模型部署于物联网设备,并利用本地数据在设备上自适应已部署模型。此类面向深度学习赋能应用的设备端自适应要求数据与内存高效。然而,现有基于梯度的元学习方案无法支持内存高效的自适应。为此,我们提出 p-Meta,一种新颖的元学习方法,其在确保对未见任务快速泛化的同时强制结构级部分参数更新。在少样本图像分类与强化学习任务上的评估表明,与最先进(SOTA)少样本自适应方法相比,p-Meta 不仅提升了准确率,还将峰值动态内存平均降低至 2.5 倍。
引用
@article{arxiv.2206.12705,
title = {p-Meta: Towards On-device Deep Model Adaptation},
author = {Zhongnan Qu and Zimu Zhou and Yongxin Tong and Lothar Thiele},
journal= {arXiv preprint arXiv:2206.12705},
year = {2022}
}
备注
Published in SIGKDD 2022