Rashomon 集内的公平性与稀疏性：免枚举探索与表征
机器学习
2025-07-08 v2
摘要
我们引入了一种基于数学规划的免枚举方法，以精确表征“好模型”集合（即 Rashomon 集）内的各种属性，如公平性或稀疏性。只要存在模型学习任务的数学公式，该方法即可通用于任何假设类。它提供了一个结构化框架，用于定义业务必要性的概念，并评估在保持在 Rashomon 集内并维持任何期望稀疏性水平的同时，公平性如何针对特定受保护群体得到改善或恶化。我们利用最近用于训练此类模型的数学规划公式，将我们的方法应用于两个假设类：评分系统和决策图。正如我们的实验所示，该方法全面且可证明地量化了预测性能、稀疏性和公平性之间的权衡。我们观察到，在保持假设类最佳可能训练精度 1% 以内的同时，可以实现范围广泛的公平性值，从对受保护群体高度有利到显著不利。此外，我们观察到稀疏性约束限制了这些权衡，并可能不成比例地损害特定子群体。正如我们所证明的，彻底表征这些关键方面之间的张力对于做出明智且负责任的模型选择至关重要。
引用
@article{arxiv.2502.05286,
title = {Fairness and Sparsity within Rashomon sets: Enumeration-Free Exploration and Characterization},
author = {Lucas Langlade and Julien Ferry and Gabriel Laberge and Thibaut Vidal},
journal= {arXiv preprint arXiv:2502.05286},
year = {2025}
}