(不)确定性与(不)公平性：基于偏好的确定公平决策者选择

公平性指标用于评估决策过程中各种领域（包括机器学习模型和现实应用中人类决策者）的歧视和偏见。这涉及计算不同社会群体（如男性和女性申请人）之间概率性结果（如接受率）的差异。然而，传统公平性指标未考虑这些过程中的不确定性，且在两个决策者 exhibits 相同差异时缺乏可比性。使用贝叶斯统计方法，我们量化差异的不确定性，以增强歧视评估。我们将每个决策者（无论是机器学习模型还是人类）表示为其差异及其在该差异中的对应不确定性。我们定义对决策者的偏好，并利用暴力枚举方法选择根据效用函数对决策者进行排序的最优决策者。具有最高效用分数的决策者可被解释为我们最确定其公平的决策者。