面向神经网络嵌入优化的ReLU激活函数线性化：最优日前能源调度
机器学习
2025-05-27 v2 系统与控制
系统与控制
摘要
近年来，神经网络已广泛应用于电力系统领域。它们可用于更好地预测输入信息并以更高的精度建模系统性能。在诸如基于电池退化的神经网络微电网日前能源调度等某些应用中，训练所得学习模型的输入特征是在优化模型中待求解的变量，而这些优化模型对该学习模型自身的输出施加了限制。这将产生一个神经网络嵌入的优化问题；神经网络中非线性激活函数的使用将使此类问题极难求解甚至无法求解。为应对这一新兴挑战，本文研究了线性化非线性激活函数的不同方法，特别关注广泛使用的修正线性单元（ReLU）函数。本文提出、分析并比较了四种针对ReLU激活函数定制的线性化方法。每种方法采用一组线性约束来替代ReLU函数，从而有效地将优化问题线性化，可克服与神经网络模型非线性相关的计算挑战。这些提出的线性化方法为有效求解集成带有ReLU激活函数的神经网络模型的优化问题提供了有价值的工具。
引用
@article{arxiv.2310.01758,
title = {Linearization of ReLU Activation Function for Neural Network-Embedded Optimization: Optimal Day-Ahead Energy Scheduling},
author = {Cunzhi Zhao and Fan Jiang and Xingpeng Li},
journal= {arXiv preprint arXiv:2310.01758},
year = {2025}
}