训练知晓自身未知信息的私有模型
机器学习
2023-05-31 v1 密码学与安全
摘要
训练可靠的深度学习模型以避免做出过度自信但错误的预测是一个长期挑战。当学习必须满足差分隐私时，这一挑战更加严峻：为保护敏感数据所提供的保护是以向学习过程注入额外随机性为代价的。本工作中，我们在差分隐私约束下对选择性分类器（可在不确定时弃判）进行了详尽的实证调研。我们发现若干流行的选择性预测方法在差分隐私设定下无效，因为它们增加了隐私泄露风险。同时，我们确认一种近期方法——仅使用现成私有学习算法产生的检查点——在 DP 下尤为适用。进一步，我们表明差分隐私不仅损害效用，还降低选择性分类性能。为跨隐私级别分析该效应，我们提出一种新颖评估机制，可隔离不同模型效用水平下的选择性预测性能。实验结果显示，恢复非私有模型可达的性能水平是可能的，但随着隐私预算减小，会以相当大的覆盖率为代价。
引用
@article{arxiv.2305.18393,
title = {Training Private Models That Know What They Don't Know},
author = {Stephan Rabanser and Anvith Thudi and Abhradeep Thakurta and Krishnamurthy Dvijotham and Nicolas Papernot},
journal= {arXiv preprint arXiv:2305.18393},
year = {2023}
}