FairCompass：在机器学习中操作化公平性
机器学习
2023-12-29 v1 人工智能
计算机与社会
软件工程
摘要
随着人工智能(AI)日益成为我们社会和个人活动不可或缺的一部分，开发负责任的AI解决方案的需求日益增长。尽管文献中提出了多种多样的机器学习公平性解决方案，但据报道，这些工具在现实应用中缺乏实际实施。行业专家参与了关于在机器学习赋能解决方案开发中操作化公平性所面临挑战的深入讨论，其中迅速倡导转向以人为中心的方法，以减轻现有技术的局限性。在这项工作中，我们提出了一种用于公平性审计的人在回路方法，并提出了一个混合视觉分析系统（以下简称“FairCompass”），该系统为最终用户集成了子群发现技术和基于决策树的模式。此外，我们创新性地集成了探索、指导和知情分析循环，以促进在 FairCompass 中使用视觉分析的知识生成模型。我们在真实场景中评估了 FairCompass 在公平性审计方面的有效性，研究结果证明了该系统在现实世界中的可部署潜力。我们期望这项工作将解决当前公平性研究中的空白，并促进机器学习系统中公平性的操作化。
引用
@article{arxiv.2312.16726,
title = {FairCompass: Operationalising Fairness in Machine Learning},
author = {Jessica Liu and Huaming Chen and Jun Shen and Kim-Kwang Raymond Choo},
journal= {arXiv preprint arXiv:2312.16726},
year = {2023}
}
备注
Accepted in IEEE Transactions on Artificial Intelligence