中文

面向自主网络防御的机器心智理论

机器学习 2024-12-06 v1 人工智能 多智能体系统

摘要

智能自主代理在网络安全领域具有巨大的潜力。然而,由于许多基于最新方法依赖不可解释的黑箱模型,因此对提供清晰可操作洞察其潜在信念和动机的方法需求日益增长。为此,我们评估了用于自主网络操作的心智理论 (ToM) 方法。在学习健壮先验后,ToM 模型可仅凭少量过去行为观察,预测代理的目标、行为和情境信念。在本文中,我们引入了一种针对网络防御的新型图神经网络 (GNN) 基于 ToM 架构,即 Graph-In, Graph-Out (GIGO)-ToM,可准确预测任意计算机网络拓扑结构下对抗性网络代理的目标和攻击轨迹。为评估后者,我们提出了一种 Wasserstein 距离的新型扩展,用于衡量基于图的概率分布的相似性。虽然标准 Wasserstein 距离缺乏固定参考尺度,但我们引入了图论归一化因子,使不同大小网络之间的标准化比较成为可能。我们提供了该度量标准,即称为网络传输距离 (NTD),并提供了赋予其权重函数的功能,以根据自定义节点特征强调预测,从而允许网络运营商探索任意战略考量。在抽象网络防御环境中,对比 Graph-In, Dense-Out (GIDO)-ToM 架构的基准测试显示,GIGO-ToM 能准确预测各种未被发现的网络攻击代理在各种网络拓扑结构下的目标和行为,同时学习能有效表征其策略的嵌入。

关键词

引用

@article{arxiv.2412.04367,
  title  = {Machine Theory of Mind for Autonomous Cyber-Defence},
  author = {Luke Swaby and Matthew Stewart and Daniel Harrold and Chris Willis and Gregory Palmer},
  journal= {arXiv preprint arXiv:2412.04367},
  year   = {2024}
}

备注

29 pages, 17 figures, 12 tables