基于变异系数的多损失加权方法
计算机视觉与模式识别
2020-11-11 v2 人工智能
摘要
机器学习与计算机视觉中的许多有趣任务通过优化定义为多个损失加权线性组合的目标函数进行学习。最终性能对为这些损失选择正确的(相对)权重十分敏感。寻找一组良好权重通常将其纳入超参数集合,并通过广泛的网格搜索设定,计算代价高昂。本文提出一种基于变异系数的加权方案,并根据训练模型时观察到的性质设定权重。所提方法引入不确定性度量以平衡损失,因而损失权重在训练过程中自发演化,无需另设(基于学习的)优化。与文献中众多损失加权方法不同,我们关注单任务多损失问题,如单目深度估计与语义分割,并表明多任务损失加权方法在这些单任务上并不奏效。该方法在多个数据集上的深度估计与语义分割中经实证有效。
引用
@article{arxiv.2009.01717,
title = {Multi-Loss Weighting with Coefficient of Variations},
author = {Rick Groenendijk and Sezer Karaoglu and Theo Gevers and Thomas Mensink},
journal= {arXiv preprint arXiv:2009.01717},
year = {2020}
}
备注
Paper was accepted at the IEEE Winter Conference on Applications of Computer Vision 2021 (WACV2021)