中文

使用RLlib-IMPALA框架的可扩展无功电压优化:一种强化学习方法

机器学习 2024-02-27 v1 系统与控制 系统与控制

摘要

在电力系统快速发展的领域中,无功电压优化(VVO)日益关键,尤其是在可再生能源不断整合的背景下。在广阔且动态变化的电力系统中,基于学习的VVO传统方法常常受到计算复杂性的阻碍。为应对这一挑战,我们的研究提出了一种新颖框架,利用深度强化学习(DRL)的潜力,特别是采用重要性加权演员-学习者架构(IMPALA)算法,在RAY平台上执行。该框架基于RLlib(强化学习行业标准),巧妙地利用了RAY提供的分布式计算能力和高级超参数调优。这一设计显著加速了VVO解空间中的探索和利用阶段。我们的实证结果表明,我们的方法不仅在获得更优奖励结果方面超越了现有的DRL方法,而且计算需求显著降低了十倍。我们的DRL智能体与RAY平台的集成促成了RLlib-IMPALA的创建,这是一个新颖的框架,有效利用RAY的资源来提高系统适应性和控制能力。RLlib-IMPALA利用RAY的工具包增强分析能力,并将训练速度提升至比其他最先进DRL方法快10倍以上。

关键词

引用

@article{arxiv.2402.15932,
  title  = {Scalable Volt-VAR Optimization using RLlib-IMPALA Framework: A Reinforcement Learning Approach},
  author = {Alaa Selim and Yanzhu Ye and Junbo Zhao and Bo Yang},
  journal= {arXiv preprint arXiv:2402.15932},
  year   = {2024}
}