BandiK：基于多臂偏执框架的高效多任务分解

有效在多个任务之间传递知识对于下游任务尤其重要，尤其是当使用基础模型时。然而，传递的性质及其准-非准双向性质仍是开放问题，负迁移仍是一个重大障碍。在多任务学习中选择有益的辅助任务集常常受到评估其高计算成本、可行候选辅助任务集数量庞大以及在不同目标任务下选择复杂度差异等制约。为此，我们提出 BandiK，这是一种基于多臂偏执框架的三阶段多任务辅助任务子集选择方法，其中每一次臂的拉取都通过在单个随机训练-测试数据集划分上训练和测试多个输出神经网络来评估候选辅助任务集。首先，BandiK 估计任务之间的两两迁移关系，这有助于识别哪些任务可能从联合学习中受益。在第二阶段，它基于初始估计为每个目标任务构建线性数量的辅助任务候选集（相对于所有任务数量而言），显著减少了潜在辅助任务集的指数级数量。在第三阶段，它为每个任务采用多臂偏执 (MAB) 框架，其中臂对应于通过训练-测试数据集划分实现的候选辅助任务集的性能。为提高效率，BandiK 将这些各任务特定的 MAB 集成到一个多臂偏执结构中。该多臂偏执方案利用了相同的神经网络实现不同对应于给定候选集的多个个体偏执器的多个臂。这种半重叠臂属性定义了 BandiK 所利用的新型多臂偏执成本/奖励结构。