双拳难敌四手：对网络告警巡检系统的对抗性评估
密码学与安全
2018-10-16 v1 人工智能
计算机科学与博弈论
摘要
网络安全是一个重要的社会问题。网络攻击的数量以及每次攻击造成的破坏程度均呈上升趋势。大型机构运营网络安全运营中心（CSOC），构成网络防御的第一道防线。对网络告警的巡检是 CSOC 运营的关键环节。近期一项与美国陆军研究实验室合作的工作提出了一种基于强化学习（RL）的方法，以防止网络告警队列长度增长过大而压垮防御方。鉴于该方法可能被部署于美国国防机构运营的 CSOC，我们对其进行了红队（对抗性）评估。此外，随着近期针对学习系统的攻击频发，测试该 RL 方法的极限显得更为重要。为此，我们学习了一种对抗性告警生成策略，作为对防御方巡检策略的最优响应。令人惊讶的是，我们发现防御方策略对攻击方的最优响应相当鲁棒。为解释这一现象，我们将先前的 RL 模型扩展为博弈模型，并证明存在能够抵御任意对抗性策略的防御方策略。我们还从博弈论模型中推导出一个竞争性基线，并与 RL 方法进行比较。然而，我们进一步利用 RL 模型中 MDP 所做的假设，发现了一种能够压垮防御方的攻击方策略。我们采用双重预言机方法，利用该已发现攻击方策略的样本对防御方进行再训练。这使得防御方对发现的攻击方策略具有鲁棒性，且未再发现进一步的危害性攻击方策略。总体而言，对抗性 RL 与 RL 中的双重预言机方法是通用技术，可应用于对抗性环境中的其他 RL 用途。
引用
@article{arxiv.1810.05921,
title = {Two Can Play That Game: An Adversarial Evaluation of a Cyber-alert Inspection System},
author = {Ankit Shah and Arunesh Sinha and Rajesh Ganesan and Sushil Jajodia and Hasan Cam},
journal= {arXiv preprint arXiv:1810.05921},
year = {2018}
}