以弱驭强:利用弱监督的快速学习

我们研究弱监督学习的泛化性质。即,在仅有少量“强”标签(我们预测的实际目标)存在但有更多“弱”标签可用的情形下学习。特别地,我们表明,即使强标签数据本身仅允许较慢的 $\mathcal{O}(\nicefrac{1}{\sqrt{n}})$ 速率,获得弱标签仍可将强任务的学得速率显著加速至 $\mathcal{O}(\nicefrac1n)$ 的快速速率,其中 $n$ 表示强标签数据点的数量。实际的加速连续地依赖于可用弱标签的数量以及两个任务之间的关系。我们的理论结果在一系列任务上得到实证反映,并说明了弱标签如何加速强任务上的学习。