用于三维瑞利-贝纳德对流控制的多智能体强化学习
流体动力学
2024-11-26 v2 机器学习
摘要
深度强化学习已应用于许多与流动控制相关的场景。多智能体强化学习作为深度强化学习的一种变体,已被证明在控制具有局部性和平移不变性的流动方面比单智能体强化学习更有效。我们首次提出了基于多智能体强化学习的控制方法在三维瑞利-贝纳德对流中的实现。控制通过修改沿底壁划分的多个控制段的温度分布来执行,每个控制段作为一个独立的智能体。考虑了瑞利数和两种瑞利-贝纳德对流状态。对学习到的控制策略的评估显示,在和时,对流强度分别降低了和。多智能体强化学习控制器将不规则形状的对流模式转换为规则直滚流,其对流强度较低,类似于相对更稳定状态下的流动。我们在两个瑞利数下与比例控制进行了比较,表明多智能体强化学习能够优于比例控制器。学习到的控制策略是复杂的,具有不同的非线性分段执行器延迟和执行幅度。我们还在比训练所用更大的域上进行了成功评估,证明了多智能体强化学习的平移不变性允许学习策略的直接迁移。
引用
@article{arxiv.2407.21565,
title = {Multi-agent reinforcement learning for the control of three-dimensional Rayleigh-B\'enard convection},
author = {Joel Vasanth and Jean Rabault and Francisco Alcántara-Ávila and Mikael Mortensen and Ricardo Vinuesa},
journal= {arXiv preprint arXiv:2407.21565},
year = {2024}
}
备注
Submitted to the special issue titled 'Machine Learning for Fluid Dynamics' in the journal Flow, Turbulence and Combusion. 39 pages and 20 figures