政府与公共部门部署机器学习模型的安全与隐私考量（白皮书）
密码学与安全
2020-10-13 v1 计算机与社会
摘要
随着机器学习成为更主流的技术，政府与公共部门的目标是利用机器学习的力量，通过革新公共服务来推进其使命。鉴于其所提供服务的重要性，具有激励性的政府用例在实施时需要特别考量。这些应用不仅将部署在可能充满敌意、需要保护机制的环境中，而且还受政府透明与问责举措的约束，这进一步使此类保护复杂化。在本文中，我们描述了在政府和公共部门部署的机器学习模型与信任度未知的用户之间不可避免的交互如何以两种主要方式危及系统：破坏完整性或侵犯隐私。随后我们简要概述可能的攻击与防御场景，最后提出一旦被考虑即可增强所提供服务安全性与隐私性的建议与指南。
引用
@article{arxiv.2010.05809,
title = {Security and Privacy Considerations for Machine Learning Models Deployed in the Government and Public Sector (white paper)},
author = {Nader Sehatbakhsh and Ellie Daw and Onur Savas and Amin Hassanzadeh and Ian McCulloh},
journal= {arXiv preprint arXiv:2010.05809},
year = {2020}
}
备注
5 pages