每类12毫焦的端侧在线小样本类增量学习

小样本类增量学习（FSCIL）使机器学习系统能够仅使用少量标注样本将其推理能力扩展到新类别，同时不遗忘先前学习的类别。基于经典反向传播的学习及其变体通常不适用于极端边缘的电池供电、内存受限系统。在这项工作中，我们引入了在线小样本类增量学习（O-FSCIL），它基于一个轻量级模型，该模型由一个预训练和元学习的特征提取器以及一个存储类原型的可扩展显式记忆组成。该架构通过一种新颖的特征正交正则化进行预训练，并使用多边界损失进行元学习。为了学习一个新类，我们的方法用新类原型扩展显式记忆，而其余架构保持冻结。这使得能够仅基于少量样本，通过一次单遍传递（因此是在线）来学习先前未见过的类。O-FSCIL在FSCIL CIFAR100基准测试上获得了68.62%的平均准确率，达到了最先进的结果。我们针对超低功耗平台进行了定制，在60毫瓦的GAP9微控制器上实现了O-FSCIL，展示了每个新类仅需12毫焦耳的在线学习能力。