记忆的算法：模型反演攻击与数据保护法
机器学习
2018-10-17 v2 密码学与安全
计算机与社会
摘要
许多人关切机器学习系统的治理与算法危害的防范。欧盟近期的《通用数据保护条例》(GDPR)被视为实现该领域更好治理的核心工具。尽管GDPR在有限情形下确实适用于模型的使用，其大部分条款涉及个人数据的治理，而模型传统上被视为知识产权。我们介绍信息安全文献中近期关于“模型反演”与“成员推断”攻击的研究，其表明将训练数据转化为机器学习系统的过程并非单向，并论证这如何可能导致某些模型在法律上被归类为个人数据。将此作为探探针性实验，我们探讨这将触发的不同权利与义务及其效用，并提出算法治理与监管的未来方向。
引用
@article{arxiv.1807.04644,
title = {Algorithms that Remember: Model Inversion Attacks and Data Protection Law},
author = {Michael Veale and Reuben Binns and Lilian Edwards},
journal= {arXiv preprint arXiv:1807.04644},
year = {2018}
}
备注
15 pages, 1 figure