WaKA: 基于 K 近邻与成员隐私原则的数据归因
机器学习
2025-06-12 v3 密码学与安全
摘要
本文提出 WaKA（Wasserstein K 近邻归因），一种新颖的归因方法，利用 LiRA（似然比攻击）框架与 K 近邻分类器（k-NN）的原理。WaKA 高效地衡量单个数据点对模型损失分布的贡献，分析训练集可构造的所有可能的 k-NN，而无需对训练集进行子集采样。WaKA 具有通用性，可作为后验成员推断攻击（MIA）来评估隐私风险，或作为先验进行隐私影响测量与数据估值。因此，WaKA 可被视为弥合数据归因与成员推断攻击（MIA）之间的鸿沟，提供统一框架以区分数据点的价值与其隐私风险。例如，我们已证明自归因值与攻击成功率的关联性强于数据点对模型泛化的贡献。WaKA 的不同用法还在多种真实数据集上进行了评估，在作为 k-NN 分类器上的 MIA 时性能接近 LiRA，但计算效率更高。此外，WaKA 在不平衡数据集的数据最小化任务（删除或添加）上表现出比 Shapley 值更强的鲁棒性。
引用
@article{arxiv.2411.01357,
title = {WaKA: Data Attribution using K-Nearest Neighbors and Membership Privacy Principles},
author = {Patrick Mesana and Clément Bénesse and Hadrien Lautraite and Gilles Caporossi and Sébastien Gambs},
journal= {arXiv preprint arXiv:2411.01357},
year = {2025}
}