CASHomon 集合：跨多个模型类别及其超参数的高效 Rashomon 集合
机器学习
2026-03-17 v1
摘要
Rashomon 集合是指在同一模型类别中，表现几乎与该模型类别中参考模型相当的模型集合。它们揭示了存在多个表现良好的备选模型，这些模型可能支持不同的解释，从而支持选择符合领域知识、隐藏约束或用户偏好好的模型。然而，目前仅存在于少数几个模型类别中才具备高效构造方法的存在。实际应用机器学习通常会搜索多个模型类别，而最佳类别事先未知。因此，我们研究了在组合算法选择和超参数优化（CASH）setting 中的 Rashomon 集合，称为 CASHomon 集合。我们提出了 TruVaRImp，这是一种基于模型的主动学习算法，用于具有隐式阈值的水平集估计，并提供收敛保证。在合成数据和真实数据集上，TruVaRImp 可靠地识别 CASHomon 集合成员，并在效能上匹配或优于 naive 采样、贝叶斯优化、经典和隐式水平集估计方法以及其他基准方法。我们对预测多样性和特征重要性在不同模型类别之间的变异性进行分析，这质疑了通过单一模型类别解释数据的常见做法。
引用
@article{arxiv.2603.15321,
title = {CASHomon Sets: Efficient Rashomon Sets Across Multiple Model Classes and their Hyperparameters},
author = {Fiona Katharina Ewald and Martin Binder and Matthias Feurer and Bernd Bischl and Giuseppe Casalicchio},
journal= {arXiv preprint arXiv:2603.15321},
year = {2026}
}
备注
Equal contributions by Fiona Katharina Ewald and Martin Binder