EARN Fairness：在利益相关者之间解释、询问、审议与协商人工智能公平性指标
人工智能
2025-02-11 v3 计算机与社会
人机交互
摘要
已提出并应用众多人工智能(AI)专家提出的公平性指标，用于定量衡量偏见并定义AI模型中的公平性。鉴于需要容纳利益相关者多样化的公平性理解，正努力征求他们的意见。然而，在无AI专业知识的情况下向利益相关者传达AI公平性指标、捕捉他们的个人偏好以及寻求集体共识仍然具有挑战性且鲜有探索。为弥合这一差距，我们提出了新的框架EARN Fairness，通过该框架可在无需AI专业知识的情况下促进利益相关者之间集体指标决策。该框架具备可调整的交互式系统和以利益相关者为中心的EARN Fairness流程，用于解释公平性指标、询问利益相关者的个人指标偏好、审议指标并协商指标选择的共识。为收集实证结果，我们将该框架应用于信用评分情境，并对18位 lack AI 知识的决策主体进行用户研究。我们确定了他们的个人指标偏好及其在个人session中的可接受不公平程度。随后，我们发现了他们在团队session中达成指标共识的方式。我们的工作表明，EARN Fairness框架使利益相关者能够表达个人偏好并达成共识，为在高风险情境中实施以人为中心的AI公平性提供了实用指导。通过这一方法，我们旨在协调多元利益相关者的公平性期望，促进更公平、更包容的AI公平性。
引用
@article{arxiv.2407.11442,
title = {EARN Fairness: Explaining, Asking, Reviewing, and Negotiating Artificial Intelligence Fairness Metrics Among Stakeholders},
author = {Lin Luo and Yuri Nakao and Mathieu Chollet and Hiroya Inakoshi and Simone Stumpf},
journal= {arXiv preprint arXiv:2407.11442},
year = {2025}
}