Scifaro

中文

深度 ReLU 网络在多类分类中的收敛速率

统计理论 2021-08-03 v1 机器学习统计理论

作者: Thijs Bos , Johannes Schmidt-Hieber

在 arXiv 上查看 ↗ PDF ↗

摘要

对于分类问题，训练好的深度神经网络返回类属成员的概率。本工作研究所学概率向真实条件类概率的收敛性。更具体地，我们考虑在多类分类设定下最小化交叉熵损失的稀疏深度 ReLU 网络重构。当类成员概率接近零时，会出现有趣的现象。我们推导了收敛速率，其通过一种边缘型条件依赖于近零行为。

关键词

深度 ReLU 网络多类分类收敛速率交叉熵损失条件类概率稀疏逼近边缘条件

引用

@article{arxiv.2108.00969,
  title  = {Convergence rates of deep ReLU networks for multiclass classification},
  author = {Thijs Bos and Johannes Schmidt-Hieber},
  journal= {arXiv preprint arXiv:2108.00969},
  year   = {2021}
}

备注

convergence rates, ReLU networks, multiclass classification, conditional class probabilities, margin condition