神经切当核回归中的差分隐私机制
机器学习
2024-11-05 v2 人工智能
密码学与安全
摘要
训练数据隐私是现代人工智能应用中的基本问题，包括人脸识别、推荐系统、语言生成等，可能包含与法律问题相关的敏感用户信息。为从根本上理解隐私机制在 AI 应用中的工作方式，我们研究了神经切当核（NTK）回归设置下的差分隐私（DP），其中 DP 是衡量统计学习中隐私最强大的工具，NTK 是研究深度神经网络学习机制最流行的分析框架之一。在我们的工作中，我们可以为 NTK 回归的差分隐私和测试准确性提供可证明的保证。此外，我们在基本图像分类数据集 CIFAR10 上进行实验，表明在适度的隐私预算下，NTK 回归能够保持良好的准确性，支持我们分析的有效性。据我们了解，这是首个为 NTK 回归提供差分隐私保证的工作。
引用
@article{arxiv.2407.13621,
title = {Differential Privacy Mechanisms in Neural Tangent Kernel Regression},
author = {Jiuxiang Gu and Yingyu Liang and Zhizhou Sha and Zhenmei Shi and Zhao Song},
journal= {arXiv preprint arXiv:2407.13621},
year = {2024}
}
备注
WACV 2025