基于联合、持续与主动学习的对抗式与行为式防御AI：针对欺骗、投毒与概念漂移的鲁棒性自动评估
人工智能
2020-02-07 v1 密码学与安全
机器学习
神经与进化计算
摘要
人工智能（AI）的最新进展为网络安全的用户与实体行为分析（UEBA）带来了新能力，即基于信息系统上观测事件的异常性质检测敌对行为。在我们先前的工作（发表于C&ESAR 2018与FIC 2019）中，我们将深度神经网络自编码器用于异常检测，并结合基于图的事件关联，以解决UEBA系统中的主要局限。这降低了误报率与漏报率，改善了告警可解释性，同时保持了实时性能与可扩展性。然而，我们未解决行为随时间的自然演化，即所谓概念漂移。为维持有效检测能力，基于异常的检测系统必须持续训练，这为 adversary 打开了大门，其可实施所谓“煮蛙”攻击，通过在行为模型中逐步渗入不易察觉的攻击痕迹，直至完整攻击被视为正常。本文提出一种通过改进检测流程并高效利用人类专业知识来有效缓解该攻击的方案。我们还展示了针对欺骗攻击的对抗式AI的初步工作，该工作进而将用于协助评估并改进防御系统。这些防御与进攻AI实现了联合、持续与主动学习，这是评估、验证及认证基于AI的防御方案所必需的一步。
引用
@article{arxiv.2001.11821,
title = {Adversarial vs behavioural-based defensive AI with joint, continual and active learning: automated evaluation of robustness to deception, poisoning and concept drift},
author = {Alexandre Dey and Marc Velay and Jean-Philippe Fauvelle and Sylvain Navers},
journal= {arXiv preprint arXiv:2001.11821},
year = {2020}
}
备注
in French. European Cyber Week - CESAR/IAD Conference - Artificial Intelligence and Defence, French Ministry of Defence, Nov 2019, Rennes, France