TaE：面向长尾类增量学习的任务感知可扩展表示

类增量学习致力于开发能够在获取新知识的同时保留已学信息的深度学习模型。大多数方法关注每个任务的平衡数据分布，忽视了现实世界中的长尾分布。因此，长尾类增量学习被提出，其在头部类别样本多于尾部类别的数据上进行训练。现有方法主要侧重于保留先前类别的代表性样本以对抗灾难性遗忘。最近，动态网络算法通过冻结旧网络结构并扩展新结构，取得了显著性能。然而，随着长尾问题的引入，仅仅扩展确定性块（Determined blocks）可能导致预测校准错误，而扩展整个主干网络则会导致内存大小爆炸。为解决这些问题，我们提出了一种新颖的任务感知可扩展（TaE）框架，动态分配和更新特定于任务的可训练参数，以从每个增量任务中学习多样化的表示，同时通过大部分冻结的模型参数抵抗遗忘。为进一步鼓励类特定的特征表示，我们开发了一种质心增强（CEd）方法来指导这些任务感知参数的更新。该方法旨在通过调整类内和类间特征之间的距离，自适应地为每个类别分配特征空间，并可扩展至所有“从零开始训练”的算法。大量实验表明，TaE 实现了最先进的性能。