Product-Stability：边缘稳定性处的梯度下降可证明收敛

经验上，现代深度学习训练常在边缘稳定性（EoS）处进行，即损失锋利度超过经典收敛分析适用的阈值。尽管近期进展，但现有EoS的理论解释要么依赖限制性假设，要么聚焦于特定的平方损失型目标。本文我们提出并研究一种称为product-stability的损失函数结构属性。我们证明，对具有product-stability最小值的最优损失函数，应用于形如$(x,y) \mapsto l(xy)$的目标函数的梯度下降，即使在EoS regime下训练也能证明地收敛到局部最小值。该框架大幅推广了先前结果，适用于广泛的损失函数类别，包括二元交叉熵。我们利用分支图描述训练动力学，解释稳定振荡的出现，并精确量化收敛时的锋利度。综合而言，我们的结果为更广泛损失函数的稳定EoS训练提供了原则性解释。