通过多任务微调实现基础模型的少样本适应

基础模型已成为许多人工智能问题的强大工具。尽管基础模型取得了巨大成功，但有效适应新任务（尤其是那些标签有限的任务）仍然是一个开放问题，且缺乏理论理解。在视觉和自然语言处理领域，一种新兴的解决方案是在将基础模型适应到标签有限的样本目标任务之前，先在一组相关任务上对其进行微调。本文研究了这种多任务微调方法的理论依据。我们的理论分析表明，通过一组多样化的相关任务进行多任务微调，与直接适应相同的预训练模型相比，可以降低目标任务上的误差。我们通过多样性和一致性指标量化了微调任务与目标任务之间的关系，并进一步提出了一种实用的任务选择算法。我们用广泛的实证证据支持了我们的理论主张。此外，我们展示的结果证实了我们的任务选择算法能够巧妙地选择相关的微调任务，从而为目标任务的模型性能带来优势。我们相信，我们的研究为有效适应缺乏丰富标签的新任务的基础模型提供了新的见解。我们的代码可在 https://github.com/OliverXUZY/Foudation-Model_Multitask 获取。