面向多目标网络防御任务的强化学习智能体训练
机器学习
2025-06-16 v2 人工智能
密码学与安全
摘要
开放式学习（OEL）——强调训练在广泛能力上实现超越狭窄胜任力的智能体——正成为开发人工智能（AI）智能体以实现鲁棒性和泛化能力的一种范式。然而，尽管有令人鼓舞的结果证明了OEL的益处，但将OEL应用于开发用于现实世界网络安全应用的自主智能体仍然是一个挑战。我们提出了一种受OEL启发的训练方法，以开发自主网络防御者。我们的结果表明，与其他领域一样，OEL原则可以转化为更鲁棒和更具泛化能力的网络防御智能体。要将OEL应用于网络防御，必须解决几个技术挑战。最重要的是，必须在广泛的任务宇宙上提供一种任务表示方法，以在目标、奖励和动作空间上保持一致的接口。这样，学习智能体可以在不断变化的网络条件、攻击者行为和防御者目标下进行训练，同时能够建立在先前获得的知识之上。借助我们的工具和结果，我们旨在从根本上影响将AI应用于解决网络安全问题的研究。具体而言，当研究人员为网络防御开发训练环境和基准时，至关重要的是他们应考虑具有一致表示的多样化任务，例如我们在工作中提出的那些。
引用
@article{arxiv.2505.22531,
title = {Training RL Agents for Multi-Objective Network Defense Tasks},
author = {Andres Molina-Markham and Luis Robaina and Sean Steinle and Akash Trivedi and Derek Tsui and Nicholas Potteiger and Lauren Brandt and Ransom Winder and Ahmad Ridley},
journal= {arXiv preprint arXiv:2505.22531},
year = {2025}
}