面向可信机器学习的监管博弈
机器学习
2024-02-07 v1 计算机科学与博弈论
机器学习
摘要
现有的可信机器学习（ML）工作通常集中于信任的单个方面，如公平性或隐私。此外，许多技术忽略了训练ML模型的人员与负责评估其可信度的人员之间的区别。为了解决这些问题，我们提出了一个框架，将可信ML视为一个多目标多智能体优化问题。这自然引出了我们称之为监管博弈的博弈论表述。我们阐述了一个特定的博弈实例，即SpecGame，其中我们模拟了ML模型构建者与公平性和隐私监管者之间的关系。监管者希望设计惩罚措施以强制遵守其规范，但又不想阻止构建者的参与。为了寻求这种社会最优（即对所有智能体都有效）的博弈解，我们引入了ParetoPlay。这种新颖的均衡搜索算法确保智能体保持在帕累托前沿，并避免了其他均衡的低效性。通过ParetoPlay模拟SpecGame可以为ML监管提供政策指导。例如，我们表明，对于一个性别分类应用，如果监管者主动首先指定其期望的保证，他们可以强制执行一个平均低4.0的差分隐私预算。
引用
@article{arxiv.2402.03540,
title = {Regulation Games for Trustworthy Machine Learning},
author = {Mohammad Yaghini and Patty Liu and Franziska Boenisch and Nicolas Papernot},
journal= {arXiv preprint arXiv:2402.03540},
year = {2024}
}