中文

面向合规性:用于后市场公平性监控的多方计算协议设计

计算机与社会 2026-05-08 v4 密码学与安全

摘要

后市场公平性监控现已被 mandate 为确保高风险就业人工智能系统在新兴法规(如欧盟人工智能法案)下遵从公平性和问责制。然而,有效的公平性监控往往需要访问敏感个人数据,而这些数据在数据保护法律下受到严格保护。多方计算(MPC)提供了为合规后市场公平性监控提供可行技术基础的方案,使能够在不透露敏感属性的情况下安全计算公平性指标。尽管技术兴趣日益增长,但在具体法律、工业和可用性约束下,将 MPC 基于的公平性监控在实际招聘情境中的实际操作仍未知晓。本工作通过协作设计方法整合技术、法律和工业专长,以解决这一空白。我们确定了 MPC 基于公平性监控的实用设计需求,开发了一个横跨整个数据生命周期的端到端、合规的协议,并在大型工业环境中进行实证验证。我们的发现为在算法招聘系统中部署 MPC 基于的后市场公平性监控提供了可操作的设计见解以及法律和工业影响。

关键词

引用

@article{arxiv.2602.01837,
  title  = {Co-designing for Compliance: Multi-party Computation Protocols for Post-Market Fairness Monitoring in Algorithmic Hiring},
  author = {Changyang He and Nina Baranowska and Josu Andoni Eguiluz Castaneira and Guillem Escriba and Matthias Juentgen and Anna Via and Frederik Zuiderveen Borgesius and Asia Biega},
  journal= {arXiv preprint arXiv:2602.01837},
  year   = {2026}
}

备注

To Appear in Proceedings of the 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT 2026). 24 pages, 3 figures