公平性能否自动化？公平感知AutoML的准则与机遇
人工智能
2024-02-21 v2 计算机与社会
摘要
自动化机器学习(AutoML)领域引入了自动化机器学习(ML)系统开发部分环节的技术，加速了流程并降低了新手的门槛。然而，源自ML模型的决策可能在社会中复制、放大甚至引入不公平，对(群体)个体造成伤害。对此，研究者已开始提出联合优化公平性与预测性能的AutoML系统，以减轻公平性相关的危害。然而，公平性是一个复杂且本质跨学科的议题，仅将其作为优化问题可能引发不利副作用。通过本工作，我们旨在提升AutoML系统开发者对公平感知AutoML此类局限的认识，同时呼吁关注AutoML作为公平性研究工具的潜力。我们全面概述了公平性相关危害产生的不同途径，以及对公平感知AutoML设计随之而来的影响。我们得出结论：尽管公平性无法被自动化，公平感知AutoML可在ML从业者的工具箱中扮演重要角色。我们强调了该方向未来工作的若干开放技术挑战。此外，我们倡导创建更多以用户为中心的辅助系统，以应对公平性工作中遇到的挑战。
引用
@article{arxiv.2303.08485,
title = {Can Fairness be Automated? Guidelines and Opportunities for Fairness-aware AutoML},
author = {Hilde Weerts and Florian Pfisterer and Matthias Feurer and Katharina Eggensperger and Edward Bergman and Noor Awad and Joaquin Vanschoren and Mykola Pechenizkiy and Bernd Bischl and Frank Hutter},
journal= {arXiv preprint arXiv:2303.08485},
year = {2024}
}