Muffin：一种通过整合现成模型实现多维 AI 公平性的框架
机器学习
2023-08-29 v1 计算机与社会
摘要
模型公平性（亦称偏差）已成为广泛 AI 应用中最关键的问题之一。在自动驾驶中，若极端天气等边缘案例无法被公平对待，不公平的模型可能导致交通事故；若 AI 模型对某一人群（如棕色和黑色皮肤者）误诊，则会造成医疗差异。近年来，出现了许多解决不公平问题的研究，它们主要关注单一不公平属性，如肤色；然而，现实世界数据通常具有多个属性，其中不止一个属性可能存在不公平，称为“多维公平性”。本文中，我们首先揭示了不同不公平属性之间的强相关性，即优化某一属性的公平性会导致其他属性的崩溃。然后，我们提出了一种新颖的多维公平性框架，即 Muffin，其包含一个自动工具，可整合现成模型以同时改善多个属性的公平性。在具有两个不公平属性的皮肤病学数据集上的案例研究表明，现有方法可在第一个属性上实现 21.05% 的公平性提升，却使第二个属性的不公平度增加 1.85%。另一方面，所提出的 Muffin 可整合多个模型，在两个属性上同时实现 26.32% 和 20.37% 的公平性提升；同时，其获得了 5.58% 的准确率增益。
引用
@article{arxiv.2308.13730,
title = {Muffin: A Framework Toward Multi-Dimension AI Fairness by Uniting Off-the-Shelf Models},
author = {Yi Sheng and Junhuan Yang and Lei Yang and Yiyu Shi and Jingtongf Hu and Weiwen Jiang},
journal= {arXiv preprint arXiv:2308.13730},
year = {2023}
}