阈值 KNN-Shapley:一种线性时间且隐私友好的数据估值方法
机器学习
2023-11-28 v2 密码学与安全
计算机科学与博弈论
机器学习
摘要
数据估值旨在量化个体数据源在训练机器学习(ML)模型中的有用性,是数据中心 ML 研究的关键方面。然而,尽管数据估值十分重要,其面临着显著却常被忽视的隐私挑战。本文以当今最实用的数据估值方法之一 KNN-Shapley 为焦点研究这些挑战。我们首先强调 KNN-Shapley 固有的隐私风险,并展示了将 KNN-Shapley 改造以适应差分隐私(DP)的技术困难。为克服这些挑战,我们引入 TKNN-Shapley,一种精炼的、隐私友好的 KNN-Shapley 变体,允许直接修改以纳入 DP 保证(DP-TKNN-Shapley)。我们表明 DP-TKNN-Shapley 具有若干优势,并在辨别数据质量方面相比朴素私有化 KNN-Shapley 提供了更优的隐私-效用权衡。此外,即便非私有的 TKNN-Shapley 也取得了与 KNN-Shapley 相当的性能。总体而言,我们的发现表明 TKNN-Shapley 是 KNN-Shapley 的一种有前景的替代方案,尤其适用于涉及敏感数据的现实应用。
引用
@article{arxiv.2308.15709,
title = {Threshold KNN-Shapley: A Linear-Time and Privacy-Friendly Approach to Data Valuation},
author = {Jiachen T. Wang and Yuqing Zhu and Yu-Xiang Wang and Ruoxi Jia and Prateek Mittal},
journal= {arXiv preprint arXiv:2308.15709},
year = {2023}
}
备注
NeurIPS 2023 Spotlight