Justicia：一种用于形式化验证公平性的随机 SAT 方法

Bishwamittra Ghosh; Debabrota Basu; Kuldeep S. Meel

Justicia：一种用于形式化验证公平性的随机 SAT 方法

人工智能 2021-10-08 v2 计算机与社会机器学习计算机科学中的逻辑

作者: Bishwamittra Ghosh , Debabrota Basu , Kuldeep S. Meel

摘要

作为一项技术，ML（机器学习）对社会利弊漠不关心，因此公平机器学习领域已着手提出多种数学定义、算法与系统，以确保 ML 应用中不同的公平性概念。鉴于众多提案，形式化验证不同算法在不同数据集上满足的公平性度量已变得至关重要。本文中，我们提出一个随机可满足性（SSAT）框架 Justicia，可形式化验证监督学习算法相对于底层数据分布的多种公平性度量。我们在多种分类与偏差缓解算法以及数据集上实例化 Justicia，以验证不同公平性度量，如差异影响、统计奇偶性与均等几率。Justicia 可扩展、准确，且不同于现有基于分布的验证器（如 FairSquare 和 VeriFair）可处理非布尔与复合敏感属性。由于按设计基于分布，Justicia 比那些在特定测试样本上运行的验证器（如 AIF360）更鲁棒。我们还从理论上了所验证公平性度量的有限样本误差界。

关键词

公平机器学习形式化验证随机可满足性公平性度量监督学习偏差缓解敏感属性

引用

@article{arxiv.2009.06516,
  title  = {Justicia: A Stochastic SAT Approach to Formally Verify Fairness},
  author = {Bishwamittra Ghosh and Debabrota Basu and Kuldeep S. Meel},
  journal= {arXiv preprint arXiv:2009.06516},
  year   = {2021}
}

备注

21 pages, 4 figures, 4 theorems

Justicia：一种用于形式化验证公平性的随机 SAT 方法

摘要

关键词

引用

备注

相关论文