算法公平性：并非纯粹技术属性而是社会技术属性

人工智能（AI）和机器学习（ML）系统在具有社会后果的领域快速部署，引发了对可信度的日益关切，包括潜在的歧视性行为。算法公平性研究生成了大量数学定义和度量，但持久存在的误解和局限——无论是在公平性社区内部还是外部——限制了其有效性，例如对其理解尚未达成共识，现有的主要度量主要针对二元群体设置，以及对交叉性情境的浅层处理。在此，我们批判性地审视这些误解，并论证公平性不能被简化为对模型的纯粹技术约束；我们还通过概念分析和实证说明审视了现有公平性度量的局限性，展示了它们在面对复杂现实场景时的有限适用性，挑战了关于准确性与公平性之间不兼容性的 prevailing 观点以及公平性度量之间的不兼容性，并概述了设计公平性度量时值得考虑的三项原则。我们认为这些发现将有助于弥合技术形式化与社会现实之间的差距，并应对现实世界 AI/ML 部署的挑战。