FairLay-ML：数据驱动社会关键算法中不公平性的直观补救方法
机器学习
2023-07-12 v1 计算机与社会
摘要
本论文探索开源机器学习（ML）模型解释工具，以了解这些工具能否让外行可视化、理解并提出针对基于 ML 的决策支持系统中不公平性的直观补救措施。在针对少数群体存在偏见的数据集上训练的机器学习模型正越来越多地用于指导改变人生的社会决策，这迫切要求研究其逻辑中的不公平性。由于该问题影响广大普通公众，关键不仅在于社会公正领域专家或机器学习专家，还在于普通外行——他们需要理解这些算法中不公平性的本质及潜在的权衡。现有关于机器学习公平性的研究大多聚焦于理解和补救不公平模型的数学定义与工具，其中部分直接指出用户交互工具是未来工作的必要方向。本论文提出 FairLay-ML，一个概念验证型 GUI，它集成了若干最有前景的工具，通过将现有研究工具（如局部可解释模型无关解释，Local Interpretable Model-Agnostic Explanations）与现有机器学习导向 GUI（如 Python Streamlit）相结合，为 ML 模型中的不公平逻辑提供直观解释。我们使用由不公平检测器工具 Parfait-ML 生成的具有不同准确率与公平性的模型测试 FairLay-ML，并借助 Themis 验证结果。我们的研究发现，FairLay-ML 所用的技术栈易于安装，并能向用户提供预训练模型的实时黑盒解释。此外，所提供的解释可转化为可操作的补救措施。
引用
@article{arxiv.2307.05029,
title = {FairLay-ML: Intuitive Remedies for Unfairness in Data-Driven Social-Critical Algorithms},
author = {Normen Yu and Gang Tan and Saeid Tizpaz-Niari},
journal= {arXiv preprint arXiv:2307.05029},
year = {2023}
}