以线性时间实现算法透明度报告的隐私保护
机器学习
2021-04-19 v3
摘要
一份可问责的算法透明度报告（ATR）理想情况下应考察（a）底层算法的透明度，以及（b）算法决策的公平性，同时保护数据主体的隐私。然而，关于发布考察透明度与公平性的ATR所带来的效用对数据主体隐私影响的形式化证明研究，尚属文献空白。此类研究的深远价值在于对公开发布ATR的隐私-效用权衡进行系统性刻画，及其在社会、政治与经济维度上由应用衍生的后果性影响。本文中，我们首先研究并揭示了在已发布ATR中部署透明度与公平性度量所引发的潜在隐私危害。为保护数据主体隐私，我们随后提出了一种基于标准线性分式规划（LFP）理论的线性时间最优隐私方案，用于在控制隐私扰动对透明度方案效用容忍度的约束下发布ATR。接着，我们量化了所引发方案的隐私-效用权衡，并分析了隐私扰动对ATR中公平性度量的影响。据我们所知，这是首项同时处理隐私、效用与公平三者权衡且适用于算法透明度报告的分析性工作。
引用
@article{arxiv.2104.00137,
title = {Achieving Transparency Report Privacy in Linear Time},
author = {Chien-Lun Chen and Leana Golubchik and Ranjan Pal},
journal= {arXiv preprint arXiv:2104.00137},
year = {2021}
}
备注
56 pages, 5 figures, accepted in ACM Journal of Data and Information Quality (JDIQ), Special Issue on Data Transparency