复合二元损失函数

我们研究了用于二元分类和类概率估计的损失函数，并将对它们的理解从间隔损失扩展到一般的复合损失，即一个恰当损失函数与一个链接函数的复合。我们刻画了间隔损失何时可以是恰当的复合损失，明确展示了如何从其部分损失的一半来确定一个完整的对称损失，引入了复合二元损失的内蕴参数化，并给出了恰当损失与“分类校准”损失之间关系的完整刻画。我们还考虑了“最佳”替代二元损失的问题。我们引入了“最佳”的精确概念，并表明存在两种凸替代损失不可比较的情况。我们根据链接函数和构成复合损失的恰当损失相关的权重函数，给出了复合二元损失凸性的完整显式刻画。这一刻画提出了“替代调优”的新方法。最后，在附录中，我们提出了一些新的与算法无关的结果，涉及二元损失在恰当性、凸性和对误分类噪声的鲁棒性之间的关系，并表明所有凸的恰当损失对误分类噪声都是非鲁棒的。