中文

为改进的监督学习设计稳健、有界且光滑的损失函数

机器学习 2026-02-09 v1

摘要

损失函数对机器学习尤其是监督学习框架至关重要,是控制学习算法行为和总体效能的基本组件。然而,尽管其应用广泛,传统损失函数在处理高维和异常敏感数据集时仍存在显著缺陷,这常常导致性能下降和训练收敛速度减慢。本文开发了一种稳健、有界且光滑 (RoBoS-NN) 的损失函数,以解决上述障碍。还对该损失函数的泛化能力进行了理论分析,以严格论证其稳健性。此外,我们在神经网络 (NN) 的框架中实现了 RoBoS-NN 损失,用于预测时间序列,并提出了一种新的稳健算法 LRoBoS\mathcal{L}_{\text{RoBoS}}-NN。为评估 LRoBoS\mathcal{L}_{\text{RoBoS}}-NN 的潜力,我们在多个真实数据集上进行实验。此外,我们将异常值注入数据集以评估 LRoBoS\mathcal{L}_{\text{RoBoS}}-NN 在更具挑战性情景下的性能。数值结果表明,LRoBoS\mathcal{L}_{\text{RoBoS}}-NN 在准确度措施方面优于其他基准模型。

关键词

引用

@article{arxiv.2602.06858,
  title  = {Designing a Robust, Bounded, and Smooth Loss Function for Improved Supervised Learning},
  author = {Soumi Mahato and Lineesh M. C},
  journal= {arXiv preprint arXiv:2602.06858},
  year   = {2026}
}