Syfer：用于私有数据发布的神经混淆方法
机器学习
2022-02-01 v1 密码学与安全
计算机视觉与模式识别
摘要
在医疗健康领域的机器学习中，平衡隐私与预测效用仍是一项核心挑战。本文中，我们提出 Syfer，一种用于抵御重识别攻击的神经混淆方法。Syfer 将训练层与随机神经网络组合，以对原始数据（如 X 射线影像）进行编码，同时保留从编码数据预测诊断的能力。编码器中的随机性充当数据所有者的私钥。我们将隐私量化为重识别单张图像所需的攻击者猜测次数（guesswork）。我们提出一种对比学习算法来估计 guesswork。我们通过实验表明，差分隐私方法（如 DP-Image）以效用的显著损失换取隐私。相比之下，Syfer 在保持效用的同时实现强隐私。例如，使用 DP-Image、Syfer 和原始数据构建的 X 射线分类器平均 AUC 分别为 0.53、0.78 和 0.86。
引用
@article{arxiv.2201.12406,
title = {Syfer: Neural Obfuscation for Private Data Release},
author = {Adam Yala and Victor Quach and Homa Esfahanizadeh and Rafael G. L. D'Oliveira and Ken R. Duffy and Muriel Médard and Tommi S. Jaakkola and Regina Barzilay},
journal= {arXiv preprint arXiv:2201.12406},
year = {2022}
}