MetaLDC:用于设备上快速适应的低维计算分类器的元学习
机器学习
2023-02-27 v1
摘要
由于计算能力有限,智能边缘设备上针对未知任务的快速模型更新至关重要但也极具挑战。本文提出 MetaLDC,其通过元训练受脑启发的超高效低维计算(LDC)分类器,以极小计算成本在微型设备上实现快速适应。具体而言,在元训练阶段,MetaLDC 通过显式考虑最终(二值)分类层将被微调以在微型设备上对未知任务快速适应来进行离线的表示元训练;在元测试阶段,MetaLDC 利用损失函数的闭式梯度实现分类层的快速适应。与传统神经网络不同,MetaLDC 基于新兴的 LDC 框架设计,以实现超高效的设备上推理。我们的实验表明,与 SOTA 基线相比,MetaLDC 取得了更高的准确率、对随机比特错误的鲁棒性,以及高性价比的硬件计算。
引用
@article{arxiv.2302.12347,
title = {MetaLDC: Meta Learning of Low-Dimensional Computing Classifiers for Fast On-Device Adaption},
author = {Yejia Liu and Shijin Duan and Xiaolin Xu and Shaolei Ren},
journal= {arXiv preprint arXiv:2302.12347},
year = {2023}
}
备注
Accepted as a full paper by the TinyML Research Symposium 2023; 8 pages, 5 figures