XLDA：用于边缘端极端分类持续学习的线性判别分析
机器学习
2023-07-24 v1 人工智能
计算机视觉与模式识别
摘要
流式线性判别分析（LDA）虽已在边缘端类增量学习部署中被证明有效（类别数有限，至多1000），但尚未被证明可部署于极端分类场景。本文提出：(a) XLDA，一种用于边缘部署中类增量学习（Class-IL）的框架，其中LDA分类器被证明等价于全连接（FC）层，包括在极端分类场景中；(b) 使基于XLDA的训练与推理能用于有可用计算资源约束的边缘部署的优化。我们在AliProducts（5万类）和Google Landmarks V2（8.1万类）等极端数据集上，使用批量训练方法展示高达42倍加速，以及使用最近邻搜索实现高达5倍推理加速。
引用
@article{arxiv.2307.11317,
title = {XLDA: Linear Discriminant Analysis for Scaling Continual Learning to Extreme Classification at the Edge},
author = {Karan Shah and Vishruth Veerendranath and Anushka Hebbar and Raghavendra Bhat},
journal= {arXiv preprint arXiv:2307.11317},
year = {2023}
}
备注
Submitted at ICML 2023: PAC-Bayes Interactive Learning Workshop