当自主智能良性软件对抗自主智能恶意软件：网络防御的一种可能未来

未来数年，军事作战的未来将一方面包括人工智能优化的复杂指挥、控制、通信、计算机、情报、监视与侦察（C4ISR）及网络，另一方面包括自主智能物以快速节奏对抗自主智能物。在此视角下，敌方力量将试图瘫痪或扰乱我们的自主智能物以及我们的复杂基础设施与系统。我们防御系统中的自主性、规模与复杂性将引发新的网络攻击策略，而自主智能恶意软件（AIM）将成为其中一环。若这些网络攻击成功，而人类操作员因任务、系统或攻击的速度、规模或复杂性而未能察觉或无法足够快速地做出反应，则任务将失败，我们的网络与 C4ISR 将严重受损，指挥与控制将被剥夺。因此亟需新的网络防御条令与技术。自主网络防御（ACyD）是由国防部门为防范此类对未来军事基础设施、系统与行动之威胁而驱动的一个研究与技术新领域。它将通过自主智能网络防御代理（AICA）群在我们的网络与系统中对抗 AIM 来实现。本文介绍这一未来网络防御技术、该领域的当前最先进水平及其主要挑战。首先，我们回顾 ACyD 概念及其相关 AICA 技术的基本原理。随后，我们介绍北约 IST-152 研究任务组关于 AICA 参考架构的当前研究成果。接着，我们提出未来数年必须解决的 12 项主要技术挑战，此外还有伦理与政治问题。