通过隐蔽偏倚抽样伪造公平性

对决策者公平性的审计目前需求旺盛。为回应这一社会需求，若干公平性审计工具已被开发。本研究的重点是提高对恶意决策者风险的警觉，这些决策者通过滥用审计工具伪造公平性从而欺骗社会群体。问题在于这种决策者的欺诈是否可被检测，以使社会规避伪造公平性的风险。本研究中，我们对这一问题给出否定回答。我们具体关注这样一种情形：决策者发布基准数据集作为自身公平性的证据，并试图欺骗使用计算公平性度量的审计工具的人。为评估该欺诈的（不可）检测性，我们显式构造了一种算法——隐蔽偏倚抽样，它可通过子抽样刻意构造一个恶意基准数据集。我们表明，由该基于隐蔽的抽样制造的欺诈在理论与经验上确实难以检测。