基于决策树的神经网络控制器等价紧凑表示
机器学习
2025-07-21 v3 系统与控制
系统与控制
摘要
过去十年中，基于神经网络(NN)的控制器在多种决策任务中展现出卓越效能。然而，其黑盒特性及意外行为风险对需要强正确性与安全性保障的实际系统部署提出了挑战。我们通过研究将基于 NN 的控制器转换为等价的软决策树(SDT)控制器及其对可验证性的影响来解决这些局限。与现有工作不同，我们关注包含修正线性单元(ReLU)激活函数以及 argmax 操作的离散输出 NN 控制器。随后我们设计了一种精确且高效的转换算法，可自动剪枝冗余分支。我们首先展示了该转换算法应用于 OpenAI Gym 的 CarRacing 环境中自动驾驶 NN 控制器的实际效能。接着，使用 OpenAI Gym 环境中的两个基准测试评估了我们的方法。结果表明，SDT 转换有助于形式化验证，对于 MountainCar-v0 和 CartPole-v1 分别实现了最高 和 的运行时提升。
引用
@article{arxiv.2304.06049,
title = {Equivalent and Compact Representations of Neural Network Controllers With Decision Trees},
author = {Kevin Chang and Nathan Dahlin and Rahul Jain and Pierluigi Nuzzo},
journal= {arXiv preprint arXiv:2304.06049},
year = {2025}
}