替代损失最小化器的$\mathscr{H}$-一致性估计误差

我们从代理损失估计误差的角度对估计误差进行了详细研究。我们将此类保证称为$\mathscr{H}$-一致性估计误差界，因为它们考虑了所采用的假设集$\mathscr{H}$。这些保证显著强于$\mathscr{H}$-校准或$\mathscr{H}$-一致性。当$\mathscr{H}$为所有可测函数族时，它们也比文献中推导出的类似超额误差界更具信息量。我们证明了提供此类保证的一般定理，涵盖分布依赖和分布独立两种情形。我们表明，在模去一个凸性假设的条件下，我们的界是紧的。我们还表明，以往的超额误差界可以作为我们一般结果的特殊情况被恢复。随后，我们针对零一损失，在多种代理损失选择下，并针对线性函数族和具有一个隐藏层的神经网络，给出了一系列显式界。我们进一步证明了在该情形下更有利的分布依赖保证。我们还针对对抗损失，在基于$\rho$-间隔上确界、合页损失或S型损失的代理损失下，并针对相同的两个一般假设集，给出了一系列显式界。在此情形下，我们同样证明了在自然分布假设下这些保证的若干增强。最后，我们报告了模拟结果，展示了我们的界及其紧性。