FairTargetSim：用于理解和解释目标变量定义公平性效应的交互式模拟器
机器学习
2025-07-16 v2 人工智能
计算机与社会
摘要
机器学习需要为预测或决策定义目标变量，这一过程可能对公平性产生深远影响，因为偏差往往在数据收集或训练之前就已编码在目标变量定义本身中。为了负责任地开发、部署和使用算法系统，必须考虑目标变量定义的下游影响。为此，我们提出了 FairTargetSim (FTS)，一种基于交互和模拟的方法。我们使用算法招聘的示例展示了 FTS，该示例基于真实世界数据和用户定义的目标变量。FTS 是开源的；算法开发者、非技术利益相关者、研究人员和教育工作者可以多种方式使用该工具。FTS 网址：http://tinyurl.com/ftsinterface。 accompanying 视频网址：http://tinyurl.com/ijcaifts。
引用
@article{arxiv.2403.06031,
title = {FairTargetSim: An Interactive Simulator for Understanding and Explaining the Fairness Effects of Target Variable Definition},
author = {Dalia Gala and Milo Phillips-Brown and Naman Goel and Carinal Prunkl and Laura Alvarez Jubete and medb corcoran and Ray Eitel-Porter},
journal= {arXiv preprint arXiv:2403.06031},
year = {2025}
}