适应性 AI 系统的持续学习
机器学习
2025-10-14 v2
摘要
持续学习是神经网络能够在不发生灾难性遗忘的情况下学习多个顺序任务的能力，这仍是开发适应性人工智能系统的核心挑战。虽然深度学习模型在各个领域实现了最前沿的性能，但它们仍受限于过拟合和遗忘。本文引入了聚类感知回放 (Cluster-Aware Replay, CAR)，这是一种混合式持续学习框架，集成了小规模、类别平衡的回放缓冲区，以及基于跨簇适应性 (Inter-Cluster Fitness, ICF) 的正则化项。ICF 损失惩罚新旧任务之间特征表示的重叠，鼓励在潜空间中的几何分离，从而减少干扰。使用带有 ResNet-18 主干网络的标准五任务 Split CIFAR-10 基准，初始实验表明，CAR 在保持早期任务性能方面优于仅做微调。这些发现仍属初步，但突显了特征空间正则化作为缓解灾难性遗忘的有前景的方向。
引用
@article{arxiv.2510.07648,
title = {Continual Learning for Adaptive AI Systems},
author = {Md Hasibul Amin and Tamzid Tanvi Alam},
journal= {arXiv preprint arXiv:2510.07648},
year = {2025}
}
备注
Version 2: Revised abstract and figures. Updated terminology (ICF). Preliminary results