面向AI赋能网络威胁的风险阈值：利用贝叶斯网络在不确定性情境下增强决策

人工智能（AI）越来越多地被用于增强和自动化网络操作，改变了恶意活动的规模、速度和可及性。这些变迁提出了迫切的问题：何时AI系统会引入不可接受或不可容忍的网络风险，以及如何在伤害规模化之前确定风险阈值。近年来，行业、政府和民间组织开始为先进AI系统阐述此类阈值，旨在信号模型在何时会放大网络威胁，例如通过自动化多阶段入侵、启用零日发现或降低对复杂攻击的专业知识要求。然而，当前确定这些阈值的方法仍然碎片化且有限。许多阈值仅依赖能力基准或狭窄威胁情景，与实证证据联系较弱。本文提出一种结构化方法，用于开发和评估AI网络风险阈值，该方法具有概率性、以证据为基础且可操作。本文的三个核心贡献建立在我们先前工作的基础上，后者强调仅依赖能力评估的局限性。首先，我们分析现有的行业网络阈值，确定常见阈值要素以及反复出现的 методological 缺陷。其次，我们提议使用贝叶斯网络作为建模AI赋能网络风险的工具，使其能够整合异构证据、显式表示不确定性，并在新信息出现时持续更新。最后，我们通过针对AI增强型钓鱼的聚焦案例研究，说明如何将定性威胁洞察分解为可衡量变量，并重新组合为更好地捕捉AI如何改变攻击者行为和结果的结构化风险估计。