基于 Y 型仿射神经网络的强化学习控制:化工过程的比较案例研究
系统与控制
2026-05-21 v1 机器学习
系统与控制
最优化与控制
摘要
本文提出了一种高效且可实际实现的强化学习 (RL) 控制方法,用于化工过程系统。该领域尚未广泛采用 RL 控制,主要由于信任 RL 算法的内在挑战以及训练可靠代理所需时间的繁琐过程。为解决这些挑战,我们利用了一类称为 Y 型仿射神经网络 (YANN) 的 RL 算法,该方法我们于前期工作中开发(Braniff 和 Tian,2025a)。通过战略初始化演员和评论家网络,YANN-RL 提供了控制方案中可信且可解释的起始点。我们将该 RL 控制方法应用于 PC-Gym 图书馆中(Bloor 等,2026)提供的三个不同的过程工程案例研究:(i) 连续搅拌罐反应器 (CSTR),(ii) 四罐系统,和 (iii) 多级萃取塔。本方法与几种流行的 RL 算法(PPO、SAC、DDPG 和 TD3)进行比较,并与非线性模型预测控制 (NMPC) 进行基准测试。这些案例研究表明,YANN-RL 能显著减少训练时间和所需数据,能够为化工过程系统提供可信的部署,能够在不依赖完整非线性模型的情况下接近 NMPC 的性能。
引用
@article{arxiv.2605.21211,
title = {Reinforcement Learning-based Control via Y-wise Affine Neural Networks: Comparative Case Studies for Chemical Processes},
author = {Austin Braniff and Yuhe Tian},
journal= {arXiv preprint arXiv:2605.21211},
year = {2026}
}
备注
Accepted for publication at the 23rd IFAC World Congress, 2026