为改进的监督学习设计稳健、有界且光滑的损失函数
机器学习
2026-02-09 v1
摘要
损失函数对机器学习尤其是监督学习框架至关重要,是控制学习算法行为和总体效能的基本组件。然而,尽管其应用广泛,传统损失函数在处理高维和异常敏感数据集时仍存在显著缺陷,这常常导致性能下降和训练收敛速度减慢。本文开发了一种稳健、有界且光滑 (RoBoS-NN) 的损失函数,以解决上述障碍。还对该损失函数的泛化能力进行了理论分析,以严格论证其稳健性。此外,我们在神经网络 (NN) 的框架中实现了 RoBoS-NN 损失,用于预测时间序列,并提出了一种新的稳健算法 -NN。为评估 -NN 的潜力,我们在多个真实数据集上进行实验。此外,我们将异常值注入数据集以评估 -NN 在更具挑战性情景下的性能。数值结果表明,-NN 在准确度措施方面优于其他基准模型。
引用
@article{arxiv.2602.06858,
title = {Designing a Robust, Bounded, and Smooth Loss Function for Improved Supervised Learning},
author = {Soumi Mahato and Lineesh M. C},
journal= {arXiv preprint arXiv:2602.06858},
year = {2026}
}