关于无限假设集的 Rashomon 比率

给定一个分类问题和一个分类器族，Rashomon 比率衡量的是产生低于给定损失的分类器所占的比例。先前的工作探讨了在有限分类器族情况下大 Rashomon 比率的优势。本文考虑无限分类器族这一更一般的情形。我们证明，大的 Rashomon 比率保证了在分类器族的随机子集中选择具有最佳经验准确率的分类器（这很可能提升泛化能力）不会使经验损失增加过多。我们通过两个涉及无限分类器族的例子来量化 Rashomon 比率，以说明其较大的情形。在第一个例子中，我们估计了使用仿射分类器对正态分布类别进行分类时的 Rashomon 比率。在第二个例子中，当分类器族由两层 ReLU 神经网络组成时，我们得到了具有修正 Gram 矩阵的分类问题 Rashomon 比率的一个下界。一般地，我们表明可以使用训练数据集以及来自分类器族的随机样本来估计 Rashomon 比率，并提供了此类估计接近 Rashomon 比率真实值的保证。