算法公平性会计恒等式

我们推导了用于预测模型的会计恒等式，将准确率与常见公平性标准联系起来。该恒等式表明，对于全局校准的模型，组内误校准的加权和与组间误差不平衡的和相等于一个“总不公平预算”。对于二元结果，此预算是模型的均方误差乘以不同结果类别中组分布差异。该恒等式嵌入了标准不可避免结果的特殊情况，同时也描述了在一个或多个公平性措施未完全满足时的固有权衡。结果表明，准确率和公平性在二元预测任务中最好视为互补：提高准确率必然缩小总体不公平预算，反之亦然。基准数据的实验确认了理论，表明许多公平性干预主要在公平性违规之间进行置换，当它们降低准确率时，往往会扩大总体不公平预算。结果自然推广到非二元结果的预测任务，说明如何通过额外的结果信息放宽公平性不兼容性，并确定二元式不可避免性在回归任务中是否延续的条件。