为机器学习亮绿灯：部署中机器学习系统的机密性、完整性与可用性
计算机与社会
2020-07-10 v1 机器学习
系统与控制
系统与控制
摘要
安全性与伦理是确保机器学习系统可被信任的核心。在生产型机器学习中，模型的构建者通常会将模型移交给部署者。在这一交接过程中，负责模型部署的工程师往往不了解模型的细节，因此也不了解与其使用、暴露或受损相关的潜在漏洞。模型窃取、模型反演或模型滥用等技术在模型部署中可能未被考虑，因此数据科学家与机器学习工程师有责任理解这些潜在风险，以便将其传达给部署和托管其模型的工程师。这是机器学习界的一个开放问题，为缓解该问题，需要开发用于验证模型隐私与安全的自动化系统，这将有助于降低实现此类交接的负担并提升其采用的普遍性。
引用
@article{arxiv.2007.04693,
title = {Green Lighting ML: Confidentiality, Integrity, and Availability of Machine Learning Systems in Deployment},
author = {Abhishek Gupta and Erick Galinkin},
journal= {arXiv preprint arXiv:2007.04693},
year = {2020}
}
备注
2 pages