数据视角下的公平性：机器学习模型的认证
人工智能
2021-06-28 v3 密码学与安全
机器学习
机器学习
摘要
我们提出一个框架，可基于交互式且保护隐私的测试来认证模型的公平程度。该框架可验证任何已训练模型，无论其训练过程与架构如何。因此，它使我们能够在多个公平性定义上经验性地评估任何深度学习模型。我们处理两种场景：测试数据仅由测试方私有持有，或事先公开已知（甚至对模型创建者亦如此）。我们通过理论分析研究所提方法的可靠性，并为交互式测试提供统计保证。最后，我们提供一种密码学技术，以仅对所用模型进行黑盒访问的方式自动化公平性测试与认证推理，同时隐藏参与者的敏感数据。
引用
@article{arxiv.2009.01534,
title = {Fairness in the Eyes of the Data: Certifying Machine-Learning Models},
author = {Shahar Segal and Yossi Adi and Benny Pinkas and Carsten Baum and Chaya Ganesh and Joseph Keshet},
journal= {arXiv preprint arXiv:2009.01534},
year = {2021}
}
备注
Accepted to AIES-2021