IBCL：稳定性-可塑性权衡下的零样本模型生成
机器学习
2025-10-15 v4
摘要
在持续学习文献中，平衡稳定性-可塑性权衡的算法已被充分研究。然而，仅有少数工作关注于获得具有指定权衡偏好的模型。在解决特定权衡下的持续学习（CLuST）问题时，当前最优技术依赖基于回放的学习，当请求对应新权衡偏好的模型时需重新训练。这效率低下，因为可能存在大量不同的权衡，且可能被请求大量模型。为此，我们提出不精确贝叶斯持续学习（IBCL），一种高效解决CLuST的算法。IBCL以常数时间凸组合替代重训练。给定新任务，IBCL（1）将知识库更新为模型参数分布的凸包，（2）通过凸组合为每个给定权衡生成帕累托最优模型而无需额外训练。即，通过IBCL获取指定权衡对应的模型是零样本的。以当前CLuST算法为基线的实验表明，IBCL在维持近零至正向反向迁移的同时，平均每任务准确率最多提升44%，峰值每任务准确率提升45%，且内存开销收敛于常数。此外，其以批次更新数衡量的训练开销在每任务上保持恒定，与请求的偏好数量无关。IBCL还在多目标强化学习任务中保持相同帕累托前沿超体积的同时显著降低了训练代价。细节见：https://github.com/ibcl-anon/ibcl。
引用
@article{arxiv.2305.14782,
title = {IBCL: Zero-shot Model Generation under Stability-Plasticity Trade-offs},
author = {Pengyuan Lu and Michele Caprio and Eric Eaton and Insup Lee},
journal= {arXiv preprint arXiv:2305.14782},
year = {2025}
}
备注
Preprint of our latest version