偏差赏金的一种算法框架
机器学习
2022-05-11 v4 计算机与社会
数据结构与算法
摘要
我们提出并分析了一种用于“偏差赏金”的算法框架：在该类事件中，外部参与者被邀请对训练好的模型提出改进建议，类似于软件和安全性中的漏洞赏金事件。我们的框架允许参与者提交任意子群改进，这些改进随后被算法合并到更新后的模型中。我们的算法具有如下特性：整体准确率与子群准确率之间、以及不同子群准确率之间均不存在张力，并且它能可证明地收敛到贝叶斯最优模型，或收敛到参与者无法找到进一步改进的状态。我们提供了该框架的形式化分析、实验评估以及来自初步偏差赏金事件的发现。
引用
@article{arxiv.2201.10408,
title = {An Algorithmic Framework for Bias Bounties},
author = {Ira Globus-Harris and Michael Kearns and Aaron Roth},
journal= {arXiv preprint arXiv:2201.10408},
year = {2022}
}