中文

基于 Y 型仿射神经网络的强化学习控制:化工过程的比较案例研究

系统与控制 2026-05-21 v1 机器学习 系统与控制 最优化与控制

摘要

本文提出了一种高效且可实际实现的强化学习 (RL) 控制方法,用于化工过程系统。该领域尚未广泛采用 RL 控制,主要由于信任 RL 算法的内在挑战以及训练可靠代理所需时间的繁琐过程。为解决这些挑战,我们利用了一类称为 Y 型仿射神经网络 (YANN) 的 RL 算法,该方法我们于前期工作中开发(Braniff 和 Tian,2025a)。通过战略初始化演员和评论家网络,YANN-RL 提供了控制方案中可信且可解释的起始点。我们将该 RL 控制方法应用于 PC-Gym 图书馆中(Bloor 等,2026)提供的三个不同的过程工程案例研究:(i) 连续搅拌罐反应器 (CSTR),(ii) 四罐系统,和 (iii) 多级萃取塔。本方法与几种流行的 RL 算法(PPO、SAC、DDPG 和 TD3)进行比较,并与非线性模型预测控制 (NMPC) 进行基准测试。这些案例研究表明,YANN-RL 能显著减少训练时间和所需数据,能够为化工过程系统提供可信的部署,能够在不依赖完整非线性模型的情况下接近 NMPC 的性能。

关键词

引用

@article{arxiv.2605.21211,
  title  = {Reinforcement Learning-based Control via Y-wise Affine Neural Networks: Comparative Case Studies for Chemical Processes},
  author = {Austin Braniff and Yuhe Tian},
  journal= {arXiv preprint arXiv:2605.21211},
  year   = {2026}
}

备注

Accepted for publication at the 23rd IFAC World Congress, 2026