人类智能开发生命周期中的公平性要求：来自实践者的见解
软件工程
2025-12-17 v1
摘要
如今，人工智能（AI），特别是机器学习（ML）和大型语言模型（LLM），正在广泛应用于各种场景。然而，这些模型常常作为黑箱运行，导致其无意中对不同人口统计群体行不公平。近年来，随着对AI模型有效性的传统关注，公平性问题正逐渐受到关注。通过对来自23个国家、不同应用领域、背景各异的26位实践者进行半结构化访谈，我们从软件工程视角研究了AI开发生命周期中的公平性要求。我们的研究评估了受访者对AI/ML软件公平性的意识以及其在软件开发生命周期（SDLC）中的应用，涵盖从将公平性关切转化为需求到在SDLC早期评估这些需求的实践。我们还通过实现、验证、评估等关键评估维度，以及如何在与其他优先事项（如实现所有软件功能、满足关键交付期限）之间进行权衡的背景下，考察了公平性问题。我们的主题定性分析结果表明，尽管受访者认识到上述AI公平性维度，但实际做法不一，公平性常常被低估，存在显著的知识差距。这凸显了需要与相关利益相关者达成一致，制定恰当的、具体情境下的公平性定义，确定相应的评估指标，并建立正式化的流程，以更好地整合AI/ML项目中的公平性。
引用
@article{arxiv.2512.13830,
title = {Practitioner Insights on Fairness Requirements in the AI Development Life Cycle: An Interview Study},
author = {Chaima Boufaied and Thanh Nguyen and Ronnie de Souza Santos},
journal= {arXiv preprint arXiv:2512.13830},
year = {2025}
}