非凸一位单标签多标签学习

我们研究了多标签学习中的一个极端场景，其中每个训练实例仅被赋予多个标签中的一个一位标签。我们将此问题形式化为一位秩一矩阵感知的一个非平凡特例，并开发了一种基于交替幂迭代的高效非凸算法。所提出的算法能够以线性收敛速度恢复底层的低秩矩阵模型。对于一个具有 $d_1$ 个特征和 $d_2$ 个类别的秩-$k$ 模型，所提出的算法在获取 $O(k^{1.5}d_1 d_2/\epsilon)$ 个一位标签后，在 $O(kd)$ 的内存消耗下，实现了 $O(\epsilon)$ 的恢复误差。我们的界在 $O(1/\epsilon)$ 的量级上几乎是紧的。这显著提升了一位多标签学习的最先进采样复杂度。我们进行了实验以验证我们的理论并评估所提出算法的性能。