用于集成与持续微调的切向模型组合
机器学习
2023-10-03 v2
摘要
切向模型组合（TMC）是一种组合在预训练点附近独立微调的分量模型的方法。分量模型是预训练模型的切向量，可被加、缩放或减，以支持增量学习、集成或遗忘。分量模型在推理时通过标量组合进行组合，将集成成本降至单个模型的成本。TMC 相比非线性微调模型的集成准确率提升 4.2%，而推理成本降低 2.5 倍至 10 倍，且随分量模型数量线性增长。每个分量模型均可零成本遗忘，对所得推理无残留影响。当用于持续微调时，TMC 不受顺序偏差约束，可在联邦数据上并行执行。在跨 3 个基准数据集共 13 项实验中，TMC 在任务增量、类增量和数据增量每种设定下几乎一致地优于近期发表的持续微调方法，且未使用任何回放缓冲区。TMC 设计用于组合位于预训练嵌入局部区域的模型，但可扩展至更一般的设定。代码见：https://github.com/tianyu139/tangent-model-composition
引用
@article{arxiv.2307.08114,
title = {Tangent Model Composition for Ensembling and Continual Fine-tuning},
author = {Tian Yu Liu and Stefano Soatto},
journal= {arXiv preprint arXiv:2307.08114},
year = {2023}
}
备注
Published at International Conference on Computer Vision (ICCV) 2023