主动公平性审计

机器学习（ML）在各行业公司中的快速普及带来了显著的监管挑战。其中一项挑战是可扩展性：监管机构如何高效审计这些 ML 模型，确保其公平？本文开创性地研究了基于查询的审计算法，能够以查询高效的方式估计 ML 模型的人口均等等价性（demographic parity）。我们提出了一种最优确定性算法，以及一种具有可比保证的实用随机化、预言机高效算法。此外，我们在理解随机化主动公平性估计算法的最优查询复杂度方面取得初步进展。我们对主动公平性估计的首次探索旨在将 AI 治理置于更坚实的理论基础之上。