POTs：保护性优化技术

算法公平旨在通过对服务提供者可应用的解决方案来解决数字系统对人群产生的经济、道德、社会和政治影响。公平框架部分通过将问题映射到狭隘的定义，并假设服务提供者可被信任来部署对策来实现这一点。不足为奇的是，这些决策限制了公平框架捕捉系统造成的各种危害的能力。我们利用需求工程和社会科学中的概念刻画公平的局限性。我们表明，聚焦于算法的输入和输出忽略了系统与世界交互产生的危害；聚焦于偏见和歧视遗漏了对人群及其环境的更广泛危害；以及依赖服务提供者排除了他们不合作或故意对抗的场景。我们提出保护性优化技术（POTs）。POTs 为受影响方提供在环境中应对系统负面影响的方法，拓展了政治抗争的途径。POTs 从系统外部干预，不需要服务提供者合作，并可用于纠正、转移或暴露系统对人群及其环境造成的危害。我们通过两个案例研究说明 POTs 的潜力和局限性：对抗由避堵应用引起的道路拥堵，以及为贷款申请者重新校准信用评分。