基于一种新颖非比较公平性概念评估推荐系统的公平审计者识别

决策支持系统是在司法、房地产和银行等部门各种应用中为人们决策提供支撑的信息系统。近来，这些支持系统在许多实际部署中被发现具有歧视性。为评估和缓解这些偏差，算法公平文献借助比较正义的概念得以丰富，其主要依赖于受此类系统支撑的社会中两个或多个个体或群体的比较。然而，这种公平性概念对于识别受雇评估决策支持系统中潜在偏差的公平审计者并不十分有用。作为解决方案，我们通过提出一种基于非比较正义原则的新公平性概念，在算法公平性中引入了范式转变。假设审计者基于决策支持系统的某些（可能未知的）期望属性进行公平性评估，所提出的公平性概念将系统输出与审计者的期望输出进行比较。我们证明，所提出的公平性概念也在比较公平性概念方面提供保证：证明若某系统相对于已被认定满足相同公平性概念的审计者是非比较公平的，则从比较公平性（如个体公平与统计奇偶）视角可认为该系统公平。我们还证明在个体公平情境下逆命题亦成立。本文也简要讨论了如何利用我们的公平性概念识别公平可靠的审计者，以及如何使用它们量化决策支持系统中的偏差。