导航公平性：AI/ML开发中从业者的理解、挑战与策略
计算机与社会
2024-08-02 v2 人工智能
软件工程
摘要
近年来，AI/ML应用在各行业的兴起引发了更多关于AI/ML公平性的讨论。虽然已有关于AI/ML公平性的先前研究，但缺乏关注AI从业者在开发公平AI/ML系统时的观点和经验的实证研究。理解AI从业者对AI/ML系统公平性的观点和经验非常重要，因为他们直接参与其开发和部署，他们的见解可以为确保AI/ML系统公平性相关的挑战提供宝贵的现实视角。我们对22名AI从业者进行了半结构化访谈，以调查他们对“公平AI/ML”的理解、开发公平AI/ML系统时面临的挑战、开发不公平AI/ML系统的后果，以及他们为确保AI/ML系统公平性所采用的策略。我们开发了一个框架，展示了AI从业者对“公平AI/ML”系统的理解与（i）开发中的挑战、（ii）开发不公平AI/ML系统的后果，以及（iii）用于确保AI/ML系统公平性的策略之间的关系。通过探索AI从业者的观点和经验，本研究提供了可操作的见解以增强AI/ML公平性，这可能促进更公平的系统、减少偏见并培养公众对AI技术的信任。此外，我们还确定了进一步研究的领域，并提出了建议以帮助AI从业者和AI公司导航公平性。
引用
@article{arxiv.2403.15481,
title = {Navigating Fairness: Practitioners' Understanding, Challenges, and Strategies in AI/ML Development},
author = {Aastha Pant and Rashina Hoda and Chakkrit Tantithamthavorn and Burak Turhan},
journal= {arXiv preprint arXiv:2403.15481},
year = {2024}
}
备注
46 pages, 8 figures, 2 tables