协同人工智能系统的韧性建模

协同人工智能系统（CAIS）通过与人类协作执行动作以实现共同目标。CAIS 可以使用训练好的 AI 模型来控制人机交互，或者可以利用人类交互以在线方式动态地向人类学习。在结合人类反馈的在线学习中，AI 模型在学习状态下通过系统传感器监控人类交互而演化，并在运行状态下基于学习结果驱动 CAIS 的自主组件。因此，任何影响这些传感器的破坏性事件都可能影响 AI 模型做出准确决策的能力，并降低 CAIS 的性能。因此，对于 CAIS 管理者而言，能够自动跟踪系统性能以理解 CAIS 在此类破坏性事件下的韧性至关重要。在本文中，我们提供了一个新的框架来对系统经历破坏性事件时的 CAIS 性能进行建模。通过我们的框架，我们引入了一个 CAIS 性能演化模型。该模型配备了一套度量指标，旨在支持 CAIS 管理者在决策过程中实现系统所需的韧性。我们在一个机器人与人进行在线协作的真实案例研究中测试了我们的框架，当时系统正经历一个破坏性事件。该案例研究表明，我们的框架可以被 CAIS 采用，并集成到 CAIS 活动的在线执行中。