网络空间中的不动点：AI-NIDS时代最优规避攻击的再思考
密码学与安全
2021-11-25 v1 人工智能
摘要
网络攻击在数量、频率和复杂性上均在增长。作为回应，安全界正寻求利用机器学习全自动化的网络防御系统。然而，迄今为止尚未考察其对攻击者与防御者协同进化动力学的结果效应。在本白皮书中，我们假设双方自动化程度的提高将加速协同进化周期，从而引出是否存在由此产生的不动点及其特征为何的问题。在欧洲最大网络防御演习 Locked Shields 的威胁模型内，我们研究对网络分类器的黑盒对抗攻击。鉴于已存在的攻击能力，我们质疑基于最小规避距离的最优规避攻击框架的效用。相反，我们提出一种可用于高效生成任意对抗扰动的新型强化学习设定。我们随后论证攻击者-防御者不动点本身是具复杂相变的通用和博弈，并引入可研究其结果动力学的时序扩展多智能体强化学习框架。我们假设 AI-NIDS 的一个合理不动点可能是防御策略严重依赖白名单特征流子空间的场景。最后，我们证明研究时序扩展通用和博弈中的攻击者-防御者动力学需要一种持续学习方法。
引用
@article{arxiv.2111.12197,
title = {Fixed Points in Cyber Space: Rethinking Optimal Evasion Attacks in the Age of AI-NIDS},
author = {Christian Schroeder de Witt and Yongchao Huang and Philip H. S. Torr and Martin Strohmeier},
journal= {arXiv preprint arXiv:2111.12197},
year = {2021}
}