多任务学习中基于解析不确定性的损失加权方法
机器学习
2024-08-16 v1
摘要
随着神经网络在各领域的广泛应用，多任务学习(MTL)获得了显著关注。MTL的一个关键挑战是在神经网络训练过程中平衡各任务的损失，通过跨任务的知识共享来提升性能和效率。为应对这些挑战，我们提出了一种新的任务加权方法，基于最普遍的不确定性加权(Uncertainty Weighting)方法，计算解析最优的基于不确定性的权重，并通过具有可调温度的softmax函数进行归一化。我们的方法在结果上与组合上不可行的暴力标量化(Scalarization)方法相当，同时提供了一种更具成本效益且高性能的替代方案。我们在各种数据集和架构上进行了广泛的基准测试。我们的方法始终优于其他六种常见的加权方法。此外，我们还报告了MTL实际应用中的重要实验发现。例如，更大的网络会削弱加权方法的影响，而调整权重衰减对性能的影响相比学习率较低。
引用
@article{arxiv.2408.07986,
title = {Experimental evaluation of offline reinforcement learning for HVAC control in buildings},
author = {Jun Wang and Linyan Li and Qi Liu and Yu Yang},
journal= {arXiv preprint arXiv:2408.07986},
year = {2024}
}