正于公平!: 公平性、规模与 Rashomon 集中的重数

在从等性能模型集合中选择模型时，我们能真正降低多少不公平？在在这一集合中选择时，是否需要刻意关注公平性，还是随意选择「良好」模型集合中的模型就足够了？近期研究指出，模型重数——即针对同一任务存在多个预测准确度几乎相同的模型——既有积极也有消极的公平性影响，从强化 AI 系统中的民权法律执行到展示 AI 决策中的随意性。尽管模型重数具有巨大的影响，但关于等准确模型集合（即 Rashomon 集）的属性进行探索的工作仍较少。本文提出了五个主要的理论和方法贡献，帮助我们理解 Rashomon 集相对不被探索的属性，特别是关于公平性。我们的贡献包括高效抽取该集合中模型的方法，以及识别根据统计比例等关键公平性指标寻找最公平模型的技术。我们还推导了个体预测在 Rashomon 集中被翻转的概率，以及集合规模和跨模型误差容忍度分布的表达式。这些结果导致了政策相关的结论，例如在 Rashomon 集中寻找公平模型的重要性，以及理解哪些个体或群体可能更容易受到任意决策的影响。