赋能受影响者塑造AI公平性评估：过程、标准与工具
计算机与社会
2026-02-10 v1 人工智能
摘要
AI系统在信用评分等高风险领域日益广泛应用，其中公平性问题至关重要。现有的公平性评估通常由AI专家或监管机构采用预定义的受保护属性和指标进行，往往难以捕捉由被系统决策影响者所持有的公平性观念的多样性与细微差别，如决策主体。近期研究因此呼吁在公平性评估中包含受影响者，但目前缺乏关于他们如何构建自身公平性标准，以及他们产生何种标准类型的实证证据——这不仅能为专家的公平性评估与缓解提供指导，还能指导AI评估工具的设计。我们通过对18名参与者进行信用评分情境下的定性用户研究来弥补这一空白。研究结果表明，参与者首先以自己的话表达公平性观念，然后通过我们设计的交互式原型将其转化为具体的量化和可操作的公平性标准。我们的发现提供了人们通过以模型特征为依据来显现公平性观念的过程实证证据，并揭示了针对结果公平性和程序公平性的多样化、个体化的标准集合。我们提供用于支持更包容性、价值敏感AI公平性评估的设计建议。
引用
@article{arxiv.2602.06984,
title = {Empowering Affected Individuals to Shape AI Fairness Assessments: Processes, Criteria, and Tools},
author = {Lin Luo and Satwik Ghanta and Yuri Nakao and Mathieu Chollet and Simone Stumpf},
journal= {arXiv preprint arXiv:2602.06984},
year = {2026}
}