高维矩阵预测的精确神谕不等式

我们观测 $(X_i,Y_i)_{i=1}^n$，其中 $Y_i$ 为实值输出，$X_i$ 为 $m\times T$ 矩阵。我们观测到一个新输入 $X$ 并希望预测与之关联的输出 $Y$。我们关注高维设定，即 $m T \gg n$。这包含带噪声的矩阵补全问题以及其他问题。我们考虑基于不同惩罚的线性预测方法，涉及多种范数的混合：核范数、Frobenius 范数和 $\ell_1$-范数。对于这些方法，我们从统计学习理论的视角证明了精确的神谕不等式。我们结果中一个令人惊讶的事实是，收敛速率不直接依赖于 $m$ 和 $T$。该分析是在没有对未知矩阵施加通常考虑的相干性条件或对采样算子施加限制等距条件的情况下进行的。此外，我们的结果首次对该问题给出了惩罚（如核范数惩罚）作为正则化算法的分析：我们的神谕不等式证明了，只要正则化参数选择得当，这些方法具有接近确定性神谕的预测精度。