面向最小数据学习的辅助任务重加权

监督学习需要大量训练数据，这限制了其在标注数据稀缺场景中的应用。为弥补数据稀缺，一种可能的方法是利用辅助任务为主任务提供额外监督。为不同辅助任务分配并优化重要性权重仍是一个关键且很大程度上未被充分研究的问题。在这项工作中，我们提出一种自动重加权辅助任务的方法，以减少主任务的数据需求。具体而言，我们将辅助任务的加权似然函数表述为主任务的替代先验。通过调整辅助任务权重以最小化替代先验与主任务真实先验之间的散度，我们获得更准确的先验估计，从而实现减少主任务所需训练数据量的目标，并避免代价高昂的网格搜索。在多个实验设置（例如半监督学习、多标签分类）中，我们证明与先前的任务重加权方法相比，我们的算法能借助辅助任务有效利用主任务的有限标注数据。我们还展示在仅有少量额外样本（例如少样本域自适应）的极端情况下，我们的算法相比基线取得显著改进。