带有差分隐私的多类支持向量机
机器学习
2025-10-07 v1 密码学与安全
摘要
随着对机器学习模型数据隐私保护需求的增加，差分隐私（DP）是构建隐私保护模型的主要框架之一。支持向量机（SVM）因其稳健的间隔保证和在二进制分类中的强经验性能而广泛使用。然而，将 DP 应用于多类 SVM 仍不充分，因为标准的一种-vs-一种（OvR）和一种-vs-一种（OvO）方法在构建多个二进制分类器时反复查询每个数据样本，从而按类别数量比例消耗隐私预算。为克服这一限制，我们探索了 all-in-one SVM 方法，这些方法仅访问每个数据样本一次即可构建具有间隔最大化属性的多类 SVM 边界。我们提出了一种新的差分隐私多类支持向量机（PMSVM），采用权重和梯度扰动方法，提供严格的灵敏度和收敛分析，以确保 all-in-one SVM 的差分隐私。实验结果表明，我们的方法在多类场景下优于现有的 DP-SVM 方法。
引用
@article{arxiv.2510.04027,
title = {Multi-Class Support Vector Machine with Differential Privacy},
author = {Jinseong Park and Yujin Choi and Jaewook Lee},
journal= {arXiv preprint arXiv:2510.04027},
year = {2025}
}
备注
NeurIPS 2025