极小极大多任务学习与广义的损失组合MTL范式
机器学习
2012-09-14 v1 机器学习
摘要
自多任务学习（MTL）提出以来，其运作方式一直是最小化任务经验风险的均值。我们引入了一种广义的损失组合范式用于MTL，该范式包含一系列公式作为子族。该谱系的一个端点是极小极大MTL：一种新的MTL公式，它最小化任务经验风险的最大值。通过对极小极大MTL的某种松弛，我们获得了一个跨越极小极大MTL和经典MTL的MTL公式连续谱。整个范式本身是损失组合的，作用于经验风险向量。它包含了极小极大MTL、其松弛以及许多新的MTL公式作为特例。我们从理论上证明，在“学会学习”（LTL）测试设置中，极小极大MTL倾向于避免在新抽取的测试任务上出现最坏情况结果。几种MTL公式在MTL和LTL测试设置下对合成和实际问题的结果是令人鼓舞的。
引用
@article{arxiv.1209.2784,
title = {Minimax Multi-Task Learning and a Generalized Loss-Compositional Paradigm for MTL},
author = {Nishant A. Mehta and Dongryeol Lee and Alexander G. Gray},
journal= {arXiv preprint arXiv:1209.2784},
year = {2012}
}
备注
appearing at NIPS 2012