机器学习安全风险管理框架
密码学与安全
2020-12-10 v1 人工智能
摘要
针对机器学习模型的对抗攻击已成为学术界与工业界高度研究的课题。这些攻击连同传统安全威胁，可危及依赖机器学习模型使用的组织资产的机密性、完整性与可用性。尽管难以预测随时间可能出现的新攻击类型，但评估与使用机器学习模型相关的风险并设计有助于最小化这些风险的措施是可行的。本文概述一种新颖框架，以指导依赖机器学习模型的组织的风险管理过程。首先，我们在数据域、模型域与安全控制域中定义若干评估因素（EFs）集合。我们开发一种方法，该方法考虑资产与任务重要性，设定 EFs 对机密性、完整性与可用性贡献的权重，并基于 EFs 的实施得分确定组织的总体安全状态。基于该信息，可识别已实施安全措施中的薄弱环节，并发现可能完全缺失的措施。我们相信我们的框架有助于解决组织中机器学习模型使用相关的安全问题，并指导其聚焦于恰当的安全措施以保护资产。
引用
@article{arxiv.2012.04884,
title = {Risk Management Framework for Machine Learning Security},
author = {Jakub Breier and Adrian Baldwin and Helen Balinsky and Yang Liu},
journal= {arXiv preprint arXiv:2012.04884},
year = {2020}
}