一种用于二分类的可调损失函数

我们提出 $\alpha$-loss（$\alpha \in [1,\infty]$），一种用于二分类的可调损失函数，它桥接了对数损失（$\alpha=1$）与 $0$-$1$ 损失（$\alpha = \infty$）。我们证明 $\alpha$-loss 具有等价的基于间隔的形式，并且是分类校准的，这两个性质是理想但难以处理的 $0$-$1$ 损失的良好替代损失函数所应具备的。对于基于逻辑回归的分类，我们利用 $\alpha$-loss 的 Lipschitz 性质以及近期关于经验风险函数景观特征的结果，给出了在经验风险最小化器处经验风险与期望风险之差的上界。最后，我们表明在 MNIST 上，对于逻辑回归，$\alpha=2$ 的 $\alpha$-loss 表现优于对数损失。