中文

回归的$H$-一致性保证

机器学习 2024-03-29 v1 机器学习

摘要

我们对回归的HH-一致性界进行了详细研究。我们首先提出了新的定理,推广了先前给出的用于建立HH-一致性界的工具。这种推广对于分析回归特有的HH-一致性界至关重要。接下来,在对称分布和有界假设集的假设下,我们证明了平方损失的代理损失函数的一系列新颖的HH-一致性界。这包括Huber损失、所有p1p \geq 1p\ell_p损失、平方ϵ\epsilon-不敏感损失的正向结果,以及用于平方支持向量回归(Support Vector Regression, SVR)的ϵ\epsilon-不敏感损失的负向结果。我们进一步利用对回归HH-一致性的分析,推导出用于对抗回归的原则性代理损失(第5节)。这直接建立了用于对抗回归的新颖算法,并在第6节中报告了良好的实验结果。

关键词

引用

@article{arxiv.2403.19480,
  title  = {$H$-Consistency Guarantees for Regression},
  author = {Anqi Mao and Mehryar Mohri and Yutao Zhong},
  journal= {arXiv preprint arXiv:2403.19480},
  year   = {2024}
}