追踪长尾：医疗场景中的差分隐私预测
机器学习
2020-10-15 v1 密码学与安全
计算机与社会
机器学习
摘要
医疗中的机器学习模型通常部署在保护患者隐私至关重要的场景中。在此类场景中，差分隐私（DP）学习方法提供了一种通用途径来学习具有隐私保证的模型。现代 DP 学习方法通过审查被判定为过于独特的信息的机制来确保隐私。因此，由此产生的隐私保护模型忽略了数据分布尾部的信息，导致准确性损失，这可能不成比例地影响小群体。在本文中，我们研究 DP 学习在医疗中的影响。我们使用最先进的 DP 学习方法在包括图像 X 光分类和时间序列数据中的死亡率预测等临床预测任务中训练隐私保护模型。我们使用这些模型对隐私、效用、对数据集偏移的鲁棒性以及公平性之间的权衡进行全面实证调查。我们的结果凸显了医疗中 DP 学习方法鲜为人知的局限性：模型在隐私和效用之间表现出急剧的权衡，并且其预测不成比例地受训练数据中大型人口统计群体的影响。我们讨论了医疗中差分隐私学习的成本与收益。
引用
@article{arxiv.2010.06667,
title = {Chasing Your Long Tails: Differentially Private Prediction in Health Care Settings},
author = {Vinith M. Suriyakumar and Nicolas Papernot and Anna Goldenberg and Marzyeh Ghassemi},
journal= {arXiv preprint arXiv:2010.06667},
year = {2020}
}