“6 还是 9？”：基于多模型与多解释性的集成学习方法
机器学习
2025-10-14 v2
摘要
通过过去的观察数据创建模型并确保其在新数据上的有效性是机器学习的核心。然而，选择能良好泛化的模型仍然是一个具有挑战性的任务。与此相关的议题中，Rashomon 效应指的是多个模型在给定学习问题中表现相似良好的情形。这在实际场景中常见，例如制造过程或医疗诊断中，数据中的多样化模式导致多个高性能解决方案。我们提出了 Rashomon 集成方法，通过战略性地从这些多样化的高性能解决方案中选择模型，以提高泛化能力。通过依据模型的性能与解释将模型分组，我们构建的集成在保持预测准确性的同时最大化多样性。这种选择确保每个模型覆盖解决方案空间的不同区域，使集成对分布迁移和不可见数据的变化更具鲁棒性。我们在开放和私有协作真实数据集上进行验证，在 Rashomon 比例较大的场景下，实现了最高可达 0.20+ AUROC 的提升。此外，我们展示了在多个实际应用场景中为企业带来的实质性益处，凸显了该方法的鲁棒性、实用性和有效性。
引用
@article{arxiv.2509.09073,
title = {"A 6 or a 9?": Ensemble Learning Through the Multiplicity of Performant Models and Explanations},
author = {Gianlucca Zuin and Adriano Veloso},
journal= {arXiv preprint arXiv:2509.09073},
year = {2025}
}
备注
ACM Transactions on Knowledge Discovery from Data (ACM TKDD) September 2025