中立性谬误：算法公平性干预何时（不）属于积极行动
人工智能
2024-04-19 v1 计算机与社会
摘要
各种度量和干预措施已被开发出来，用于识别和减轻机器学习系统的不公平输出。虽然个人和组织有义务避免歧视，但在欧盟（EU）反歧视法下，使用公平感知的机器学习干预措施也被描述为相当于“算法积极行动”。由于欧洲法院在评估积极行动的合法性时一直很严格，这将给那些希望实施公平机器学习干预措施的人带来重大的法律负担。在本文中，我们提出，算法公平性干预通常应被解释为一种防止歧视的手段，而不是一种积极行动措施。具体来说，我们认为这种类别错误通常可归因于中立性谬误：关于公平感知算法决策的中立性的错误假设。我们的发现提出了一个问题：在算法决策的背景下，避免歧视的消极义务是否足够。因此，我们建议从“不造成伤害”的义务转向积极义务“主动不造成伤害”，作为算法决策和公平机器学习干预的更合适框架。
引用
@article{arxiv.2404.12143,
title = {The Neutrality Fallacy: When Algorithmic Fairness Interventions are (Not) Positive Action},
author = {Hilde Weerts and Raphaële Xenidis and Fabien Tarissan and Henrik Palmer Olsen and Mykola Pechenizkiy},
journal= {arXiv preprint arXiv:2404.12143},
year = {2024}
}