关于缓解差分隐私学习中的效用损失：一种几何启发的核方法新视角
机器学习
2025-07-28 v4 人工智能
密码学与安全
摘要
隐私-效用权衡仍是差分隐私机器学习的基本问题之一。本文引入一种几何启发的基于核的方法，以缓解分类中的精度损失问题。在该方法中，在再生核希尔伯特空间（RKHS）中学习给定数据点仿射包的表示。这导出了一种新颖的距离度量，可隐藏关于个体数据点的隐私敏感信息，并通过显著降低成员推断攻击的风险来改善隐私-效用权衡。该方法的有效性通过在 MNIST 数据集、Freiburg 杂货数据集以及一个真实生物医学数据集上的实验得到证明。已验证该方法在计算上保持实用。考虑了该方法在联邦学习中的应用，观察到由于数据分布式带来的精度损失要么可忽略，要么并不显著高。
引用
@article{arxiv.2304.01300,
title = {On Mitigating the Utility-Loss in Differentially Private Learning: A new Perspective by a Geometrically Inspired Kernel Approach},
author = {Mohit Kumar and Bernhard A. Moser and Lukas Fischer},
journal= {arXiv preprint arXiv:2304.01300},
year = {2025}
}