本地差分隐私下的保护性经验预测
机器学习
2025-12-08 v2 机器学习
摘要
经验预测（CP）提供一组包含真实类别的候选集合，保证以特定概率覆盖真实类别。然而，它通常依赖于标签干净的校准集。在面对隐私敏感场景时，聚合方仅可访问扰动后的标签版本。我们提出两种互补方法，基于本地差分隐私（LDP）。在第一种方法中，用户不访问模型，而是提供输入特征及扰动标签（采用k进制随机响应）。在第二种方法中（实施更严格的隐私约束），用户通过二分搜索响应向其conformity得分添加噪声。该方法需要访问分类模型，但既保护数据隐私又保护标签隐私。两种方法均直接从噪声数据计算经验阈值，无需访问真实标签。我们证明了有限样本覆盖保证，并展示即使在严苛随机化下仍能实现稳健覆盖。该方法将强本地隐私与预测不确定性控制统一，适用于医学影像或大语言模型查询等敏感应用，无论用户是否（或愿意）计算自己的得分。
引用
@article{arxiv.2505.15721,
title = {Privacy-Preserving Conformal Prediction Under Local Differential Privacy},
author = {Coby Penso and Bar Mahpud and Jacob Goldberger and Or Sheffet},
journal= {arXiv preprint arXiv:2505.15721},
year = {2025}
}
备注
Accepted by COPA 2025. Proceedings of Machine Learning Research 26, 2025 Conformal and Probabilistic Prediction with Applications