一般损失函数导致高维中的（近似）插值

我们提供了一个统一框架，适用于过参数化 regime 下二分类与多分类设置中一般凸损失族，以闭式近似刻画梯度下降的隐式偏置。具体而言，我们表明该隐式偏置在高维中近似（但不精确等于）最小范数插值，后者源于在平方损失上的训练。与先前针对指数尾损失并利用中间支持向量机公式的工作不同，我们的框架直接建立在Ji和Telgarsky（2021）的原始-对偶分析之上，使我们能够通过新颖的敏感性分析为一般凸损失提供新的近似等价性。我们的框架也恢复了现有针对二分类与多分类设置中指数尾损失的精确等价结果。最后，我们提供了技术紧致性的证据，并利用我们的结果展示了某些为分布外问题设计的损失函数对闭式解的影响。