作为非对称议价博弈的辅助学习
机器学习
2023-06-06 v2
摘要
辅助学习是一种增强已训练模型泛化能力的有效方法，尤其在处理小规模数据集时。然而，该方法可能带来若干困难：(i) 优化多个目标可能更具挑战性，且 (ii) 如何平衡辅助任务以最佳地协助主任务尚不清楚。在本工作中，我们提出一种新方法 AuxiNash，通过将问题形式化为具有非对称任务议价能力的广义议价博弈来平衡辅助学习中的任务。此外，我们描述了一种基于任务对主任务性能的贡献来学习任务议价能力的高效过程，并推导出其收敛性的理论保证。最后，我们在多个多任务基准上评估 AuxiNash，发现它持续优于对比方法。
引用
@article{arxiv.2301.13501,
title = {Auxiliary Learning as an Asymmetric Bargaining Game},
author = {Aviv Shamsian and Aviv Navon and Neta Glazer and Kenji Kawaguchi and Gal Chechik and Ethan Fetaya},
journal= {arXiv preprint arXiv:2301.13501},
year = {2023}
}
备注
ICML 2023