基于多任务优化的协同训练用于电力消耗预测
机器学习
2022-06-01 v1 人工智能
神经与进化计算
摘要
现实世界的电力消耗预测可能涉及不同任务，例如针对不同提前时间步或不同地理位置的预测。这些任务通常独立求解，未利用可从中提取并在任务间共享以增进各自求解性能的共性解题知识。本文提出一种基于多任务优化（MTO）的协同训练（MTO-CT）框架，其中求解不同任务的模型通过 MTO 范式进行协同训练，在求解每个任务时可受益于求解其他任务时获得的知识以辅助其求解过程。MTO-CT 采用基于长短期记忆（LSTM）的模型作为预测器，其中知识通过连接权重与偏置表示。在 MTO-CT 中，设计了任务间知识迁移模块以在不同任务间传递知识，其中最具助益的来源任务通过概率匹配与随机通用选择选出，并执行变异与交叉等进化操作以在目标任务中复用所选来源任务的知识。我们使用来自澳大利亚五个州的电力消耗数据设计了两套不同规模的实验任务：a) 各州单步提前预测（五个任务）；b) 各州 6步、12步、18步和24步提前预测（20个任务）。在相同设置下，将 MTO-CT 求解这两套任务的表现与独立无知识共享地求解各任务进行比较，证明了 MTO-CT 在预测精度上的优越性。
引用
@article{arxiv.2205.15663,
title = {Multi-task Optimization Based Co-training for Electricity Consumption Prediction},
author = {Hui Song and A. K. Qin and Chenggang Yan},
journal= {arXiv preprint arXiv:2205.15663},
year = {2022}
}
备注
accepted by the 2022 IEEE International Joint Conference on Neural Networks (IJCNN 2022)