IBCL：持续学习中面向任务权衡的零样本模型生成
机器学习
2023-10-11 v3
摘要
与通用多任务学习类似，持续学习具有多目标优化的性质，因此面临不同任务间性能的权衡。即，为优化当前任务分布，可能需在某些先前任务上妥协性能。这意味着存在多个在不同时间达到帕累托最优的模型，各自对应不同的任务性能权衡。研究者已探讨如何训练特定模型以应对特定权衡偏好。然而，现有算法所需的训练开销与偏好数量成正比——当存在多个甚至无限多偏好时，这是沉重负担。为此，我们提出不精确贝叶斯持续学习（IBCL）。面对新任务时，IBCL（1）以模型参数分布凸包的形式更新知识库，且（2）零样本地获得应对任务权衡偏好的特定模型。即，IBCL 无需任何额外训练开销即可从其知识库生成应对偏好的模型。我们证明 IBCL 获得的模型在识别帕累托最优参数方面具有保证。此外，在标准图像分类和 NLP 任务上的实验支持该保证。统计上，相较于基线方法，IBCL 将平均单任务准确率至多提升 23%，峰值单任务准确率至多提升 15%，且后向迁移稳定地接近零或为正。最重要的是，IBCL 将训练开销从每个偏好训练 1 个模型显著减少到所有偏好至多 3 个模型。
引用
@article{arxiv.2310.02995,
title = {IBCL: Zero-shot Model Generation for Task Trade-offs in Continual Learning},
author = {Pengyuan Lu and Michele Caprio and Eric Eaton and Insup Lee},
journal= {arXiv preprint arXiv:2310.02995},
year = {2023}
}
备注
This should be a replacement for arXiv:2305.14782. I falsely submitted a new paper