面向前沿人工智能的动态安全案例

前沿人工智能（AI）系统对社会既带来利益，也带来风险。安全案例——由证据支持的结构化论证——是确保这些系统安全开发和部署的一种方式。然而，由于AI能力的不断演进，以及运营环境和风险认识的变化， necessitates 对这些安全案例进行持续更新的机制。通常情况下，在其他行业中，安全案例在部署前就已完成，不需要频繁更新后续部署，这可能会是一种手动且成本高昂的过程。本文提出了动态安全案例管理系统（Dynamic Safety Case Management System, DSCMS），以支持安全案例的初始创建以及其随时间系统性、半自动的修订。该系统借鉴了自动驾驶车辆（AV）领域的方法——结合了UL 4600推荐的可检验安全论证（Checkable Safety Arguments, CSA）与安全绩效指标（Safety Performance Indicators, SPIs），帮助开发人员在系统安全主张与最新系统状态之间保持一致。我们以前线网络安全能力的安全案例模板为例，演示了该方法，并建议将其整合到面向安全关键决策的治理结构之中。尽管初始安全论证的正确性至关重要——尤其是对于高严重性风险——但DSCMS为适应新见解、加强事件响应提供了框架。我们概述了进一步工作，旨在将其作为前沿AI系统持续安全保障的一部分实现和实施。