面向并行持续学习的稳定训练方法
机器学习
2024-07-12 v1 人工智能
摘要
并行持续学习（Parallel Continual Learning, PCL）任务研究针对多源输入进行持续学习的训练方法，当数据按到达顺序来学习时，来自不同任务的数据会被同时处理。PCL具有高训练效率，特别适用于如自动驾驶车辆配备多传感器等复杂多源数据系统。然而，在任何时刻，都需要同时训练多个任务，导致PCL出现严重的训练不稳定现象。这种不稳定性在前向和反向传播期间都表现出来，具体表现为特征被缠绕、梯度发生冲突。本文引入了稳定并行持续学习方法（Stable Parallel Continual Learning, SPCL），以增强PCL在前向和反向传播中的训练稳定性。对于前向传播，我们应用基于双块 Toeplitz 矩阵（Doubly-block Toeplit, DBT）的正交约束来确保网络参数的稳定一致传播。对于反向传播，我们采用正交分解进行梯度管理，以稳定反向传播并减轻跨任务的梯度冲突。通过确保梯度正交性并最小化条件数，SPCL有效地稳定了复杂优化任务中的梯度下降。实验结果表明，SPCL在训练稳定性方面优于当前最先进的方法。
引用
@article{arxiv.2407.08214,
title = {Towards stable training of parallel continual learning},
author = {Li Yuepan and Fan Lyu and Yuyang Li and Wei Feng and Guangcan Liu and Fanhua Shang},
journal= {arXiv preprint arXiv:2407.08214},
year = {2024}
}