基于图模型的算法公平性验证
机器学习
2022-06-02 v2 人工智能
计算机与社会
应用统计
摘要
近年来,机器学习(ML)算法已被部署于安全关键和高风险决策中,算法的公平性至关重要。ML中的公平性侧重于检测ML分类器对特定人口群体 induced 的偏差,并针对不同的公平性定义提出缓解偏差的算法方案。为此,已有若干公平性验证器被提出,用于在给定输入特征概率分布的情况下,计算ML分类器预测中的偏差——实质上超越有限数据集。在验证线性分类器的背景下,现有公平性验证器受限于因特征间相关性建模不精确带来的准确性,以及因将分类器限制性地表述为SSAT/SMT公式或采用采样带来的可扩展性。本文提出一种高效的公平性验证器FVGM,将特征间相关性编码为贝叶斯网络。与现有验证器不同,FVGM提出了一种基于随机子集和的线性分类器验证方法。实验上,我们表明FVGM相较于最先进的公平性验证器,能对更多样化的公平性增强算法、公平性攻击以及群体/因果公平性度量进行准确且可扩展的评估。我们还证明FVGM有助于计算公平性影响函数,作为检测由特征子集引发偏差之根源的垫脚石。
引用
@article{arxiv.2109.09447,
title = {Algorithmic Fairness Verification with Graphical Models},
author = {Bishwamittra Ghosh and Debabrota Basu and Kuldeep S. Meel},
journal= {arXiv preprint arXiv:2109.09447},
year = {2022}
}