中文

基于强化学习的多 EV 充电站需求响应协调的优化代价函数

人工智能 2022-03-04 v1

摘要

电动汽车 (EV) 充电站代表一类具有显著灵活性的可观负荷。在需求响应 (DR) 算法中利用该灵活性对于管理和平衡电网中的供需变得愈发重要。基于强化学习 (RL) 的无模型 DR 是平衡此类 EV 充电负荷的一种有吸引力的方法。我们基于先前将马尔可夫决策过程 (MDP) 用于同时协调多个充电站的研究构建。然而,我们注意到先前研究采用的在计算上昂贵的代价函数导致训练时间很长,限制了该方法的可行性与实用性。因此,我们提出一种改进的代价函数,其本质上迫使学到的控制策略总是满足任何不提供灵活性的充电需求。我们使用真实世界数据,将新提出的批量 RL 拟合 Q-迭代实现与原始的(昂贵的)实现进行严格比较。具体地,对于负荷平坦化情形,我们从 (i) 学习基于 RL 的充电策略的处理时间,以及 (ii) 策略决策针对未见过测试数据满足目标负荷的整体性能两方面比较两种方法。该性能针对不同的训练周期与变化的训练样本量进行分析。除两种 RL 策略的性能结果外,我们还给出基于 (i) 全知最优策略与 (ii) 简单的随时间均匀摊开单个 EV 充电的启发式方法的性能界限。

关键词

引用

@article{arxiv.2203.01654,
  title  = {Optimized cost function for demand response coordination of multiple EV charging stations using reinforcement learning},
  author = {Manu Lahariya and Nasrin Sadeghianpourhamami and Chris Develder},
  journal= {arXiv preprint arXiv:2203.01654},
  year   = {2022}
}