面向数据驱动控制的可解释人工智能：一种逆最优控制方法
系统与控制
2025-04-16 v1 系统与控制
摘要
理解黑箱数据驱动控制器的行为是现代控制设计中的一项关键挑战。在本文中，我们提出一种基于逆最优控制（IOC）的可解释人工智能（XAI）方法，用于在给定工作点附近对控制器行为给出局部解释。具体而言，我们提取黑箱控制器所优化的隐式代价函数中分配给跟踪误差与控制输入的权重，从而提供一种更透明、更具可解释性的控制器内在目标表示。该方法与已有的 XAI 技术（如 Local Interpretable Model-agnostic Explanations（LIME））存在联系，因为它同样基于控制策略的局部近似。然而，我们的方法并不局限于标准的敏感性分析，而是基于一个逆线性二次（LQ）问题的求解来给出解释，从而提供一种结构化的、更贴合控制需求的视角。数值算例表明，所推断出的代价函数能够持续深化对控制器决策过程的理解，揭示出原本反直觉或出乎意料的现象。
引用
@article{arxiv.2504.11446,
title = {eXplainable AI for data driven control: an inverse optimal control approach},
author = {Federico Porcari and Donatello Materassi and Simone Formentin},
journal= {arXiv preprint arXiv:2504.11446},
year = {2025}
}
备注
Submitted to CDC 2025