探索机器学习从业者（试图）如何使用公平性工具包
人机交互
2023-01-11 v2 人工智能
计算机与社会
机器学习
摘要
近年来开发了许多开源 ML 公平性工具包，旨在帮助 ML 从业者评估并解决其系统中的不公平性。然而，关于 ML 从业者实际如何在实践中使用这些工具包的研究很少。在本文中，我们进行了首次深入的实证探索，研究行业从业者（试图）如何使用现有的公平性工具包。具体而言，我们进行了出声思考访谈，以了解参与者如何了解和使用公平性工具包，并通过匿名在线调查探讨了我们发现的一般性。我们确定了公平性工具包更好地满足从业者需求并有效且负责任地引导其使用工具包的若干机会。基于这些发现，我们强调了未来开源公平性工具包设计的启示，这些工具包可以支持从业者在 ML 公平性工作中更好地语境化、沟通和协作。
引用
@article{arxiv.2205.06922,
title = {Exploring How Machine Learning Practitioners (Try To) Use Fairness Toolkits},
author = {Wesley Hanwen Deng and Manish Nagireddy and Michelle Seng Ah Lee and Jatinder Singh and Zhiwei Steven Wu and Kenneth Holstein and Haiyi Zhu},
journal= {arXiv preprint arXiv:2205.06922},
year = {2023}
}
备注
ACM Conference on Fairness, Accountability, and Transparency (ACM FAccT 2022)