超越随机噪声：来自潜在_bandit_研究的匿名化策略洞察
机器学习
2023-10-03 v1 人工智能
摘要
本文研究用户在推荐任务中共享知识的学习场景下的隐私问题。我们的研究有助于日益增长的隐私保护机器学习研究体系，并强调需要针对特定攻击模式量身定制的隐私技术，而非依赖一刀切的解决方案。我们使用潜在 bandit 设定，通过采用各种聚合策略（如平均、最近邻与结合噪声注入的聚类）来评估隐私与推荐器性能之间的权衡。更具体地，我们模拟了一种利用对手获取的公开可用辅助信息的链接攻击场景。我们在三个开放真实世界数据集上的结果表明，使用 Laplace 机制向单个用户的数据记录添加噪声是一个糟糕的选择。相对于去匿名化概率与 ADS 指标，它在任何噪声水平下都给出最高的 regret。相反，应将噪声与适当的聚合策略结合。例如，使用不同大小簇的平均值提供了仅通过改变噪声量无法实现的灵活性。一般而言，没有任何单一聚合策略能持续地为给定所需隐私水平实现最优 regret。
引用
@article{arxiv.2310.00221,
title = {Beyond Random Noise: Insights on Anonymization Strategies from a Latent Bandit Study},
author = {Alexander Galozy and Sadi Alawadi and Victor Kebande and Sławomir Nowaczyk},
journal= {arXiv preprint arXiv:2310.00221},
year = {2023}
}