具有认知差异的群体审计差分隐私算法的博弈论分析
密码学与安全
2024-04-26 v1 计算机科学与博弈论
摘要
隐私保护AI算法被广泛应用于各个领域，但缺乏透明度可能带来问责问题。虽然审计算法可以解决这个问题，但基于机器的审计方法通常成本高昂且耗时。另一方面，群体审计通过利用集体智慧提供了一种替代解决方案。然而，审计师之间存在认知差异，导致专业知识和知识获取水平不同，可能会影响审计绩效。有效的群体审计将为算法开发者建立可信的问责威胁，激励他们维护自己的主张。在本研究中，我们的目标是开发一个系统框架，使用Stackelberg博弈方法研究群体审计对算法开发者的影响。审计师的最优策略强调了容易获取相关信息的重要性，因为这增加了审计师对审计过程的信心。同样，开发者的最优选择表明，当审计师获取知识的成本较低时，群体审计是可行的。通过提高透明度和问责性，群体审计有助于隐私保护算法的负责任开发。
引用
@article{arxiv.2404.16195,
title = {A Game-Theoretic Analysis of Auditing Differentially Private Algorithms with Epistemically Disparate Herd},
author = {Ya-Ting Yang and Tao Zhang and Quanyan Zhu},
journal= {arXiv preprint arXiv:2404.16195},
year = {2024}
}