学习型信息物理系统的因果修复
系统与控制
2023-04-27 v2 机器学习
计算机科学中的逻辑
系统与控制
摘要
实际因果性模型利用领域知识生成导致某一结果的事件的可信诊断。将这些模型应用于诊断并修复具有学习型组件（LEC）的信息物理系统（CPS）中的运行时性质违例是很有前景的。然而，鉴于学习型组件的高度多样性与复杂性，在可扩展的实际因果性模型中编码领域知识（例如 CPS 动力学）以生成有用的修复建议具有挑战性。在本文中，我们将因果诊断聚焦于学习型组件的输入/输出行为。具体而言，我们旨在识别学习型组件的哪一部分 I/O 行为是性质违例的实际原因。一个重要的副产品是学习型组件的反事实版本，其通过修正所识别的问题行为来修复运行时性质。基于这一见解，我们设计了一个两步诊断流程：（1）构建反映性质结果对组件 I/O 行为之依赖关系的 Halpern-Pearl 因果模型；（2）在该模型上搜索实际原因及相应修复。我们证明我们的流程具有以下保证：若找到实际原因，则系统保证被修复；否则，我们以高概率置信度确信所分析的学习型组件未导致该性质违例。我们展示了我们的方法在标准 OpenAI Gym 基准上成功修复了学习型控制器。
引用
@article{arxiv.2304.02813,
title = {Causal Repair of Learning-enabled Cyber-physical Systems},
author = {Pengyuan Lu and Ivan Ruchkin and Matthew Cleaveland and Oleg Sokolsky and Insup Lee},
journal= {arXiv preprint arXiv:2304.02813},
year = {2023}
}