机器学习随机性对群体公平性的影响

机器学习中群体公平性的统计度量反映了不同群体间算法性能的差距。然而，这些度量在不同训练实例间表现出高方差，使其无法可靠地用于公平性的实证评估。是什么导致了这种高方差？我们研究了训练神经网络中不同随机性来源对群体公平性的影响。我们表明，群体公平性度量的方差根源于欠代表群体上学习过程的高波动性。进一步，我们识别出主导的随机性来源为训练期间数据顺序的随机性。基于这些发现，我们展示了如何通过仅改变单个 epoch 的数据顺序，以高效率且对模型整体性能影响可忽略的方式控制群体级准确率（即模型公平性）。