评估真实世界中机器学习生产系统的网络安全风险
密码学与安全
2021-10-05 v2 机器学习
摘要
尽管针对机器学习（ML）生产系统的网络攻击可能带来危害，但当今安全从业人员缺乏相应的方法论和战术工具，难以分析其基于ML的系统的安全风险。本文对ML生产系统进行了全面的威胁分析。在该分析中，我们遵循NIST提出的用于评估企业网络安全风险的本体论，并将其应用于基于ML的生产系统。具体而言，我们（1）列举了典型ML生产系统的资产，（2）描述了威胁模型（即潜在攻击者、其能力及其主要目标），（3）识别了针对ML系统的各类威胁，以及（4）回顾了既往研究中展示的、可实现这些威胁的大量攻击。此外，为量化对抗机器学习（AML）威胁的风险，我们引入了一种新颖的评分系统，为不同的AML攻击分配严重度分数。所提出的评分系统利用层次分析法（AHP），在安全专家的协助下对攻击的各项属性进行排序。最后，我们为MulVAL攻击图生成与分析框架开发了一个扩展，以纳入针对ML生产系统的网络攻击。利用该扩展，安全从业人员可在包含ML组件的环境中应用攻击图分析方法；从而为安全从业人员提供用于评估影响并量化针对ML生产系统的网络攻击风险的方法论和实用工具。
引用
@article{arxiv.2107.01806,
title = {Evaluating the Cybersecurity Risk of Real World, Machine Learning Production Systems},
author = {Ron Bitton and Nadav Maman and Inderjeet Singh and Satoru Momiyama and Yuval Elovici and Asaf Shabtai},
journal= {arXiv preprint arXiv:2107.01806},
year = {2021}
}