ML Privacy Meter：通过量化机器学习的隐私风险助力法规合规
密码学与安全
2020-07-21 v1 机器学习
摘要
在使用敏感数据构建机器学习模型时，组织应确保此类系统中处理的数据得到充分保护。对于涉及个人数据机器学习的项目，GDPR 第 35 条要求开展数据保护影响评估（DPIA）。除了通过安全漏洞非法访问数据的威胁外，机器学习模型还通过模型预测与参数间接泄露数据，从而对数据构成额外的隐私风险。英国信息专员办公室（ICO）与美国国家标准与技术研究院（NIST）发布的指南强调了模型对数据的威胁，并建议组织考量并估算这些风险以符合数据保护法规。因此，亟需一种能够量化模型对数据隐私风险的工具。本文关注机器学习模型对训练数据的这种间接泄露。我们提出 ML Privacy Meter，一种可通过最先进的成员推断攻击（membership inference attack）技术量化模型对数据隐私风险的工具。我们讨论了在部署机器学习模型时，该工具如何帮助从业者遵守数据保护法规。
引用
@article{arxiv.2007.09339,
title = {ML Privacy Meter: Aiding Regulatory Compliance by Quantifying the Privacy Risks of Machine Learning},
author = {Sasi Kumar Murakonda and Reza Shokri},
journal= {arXiv preprint arXiv:2007.09339},
year = {2020}
}