深度集成的差异性收益

深度神经网络集成（Deep Ensembles）因其简单易用的特性而被广泛用于提升预测性能，但其对算法公平性的影响尚不为人所知。算法公平性研究模型在由受保护属性（如年龄、性别或种族）定义的社会相关群体上的性能差异。在本文中，我们探讨了深度集成性能提升与公平性之间的相互作用。我们的分析揭示，这些集成不均等地偏向不同群体，一种我们称之为差异性收益（disparate benefits）的现象。我们使用带有受保护群体属性的流行面部分析和医学影像数据集，对此现象进行经验性研究，发现其影响多个既定的群体公平性指标，包括统计公平性和机会平等。此外，我们识别出集成成员之间在 per-group 预测多样性上的差异可解释这一现象。最后，我们证明，经典的 Hardt 后处理方法通过利用深度集成更良好校准的预测分布，特别有效地缓解了差异性收益效应。