仅在训练阶段利用深度网络能力进行非线性黑箱系统辨识
机器学习
2023-12-29 v2 系统与控制
系统与控制
摘要
为了在系统辨识中受益于深度模型的建模能力，同时无需担心推理时间，本研究提出了一种新颖的训练策略，仅在训练阶段使用深度模型。为此，采用了两个具有不同结构和目标的分立模型。第一个是深度生成模型，旨在对系统输出的分布进行建模，称为教师模型；第二个是浅层基函数模型，称为学生模型，以系统输入为输入来预测系统输出。这意味着这些分离的路径必须达到相同的最终目标。由于深度模型在高度非线性系统建模中表现出色，对齐这两个模型学习到的表示空间使得学生模型能够继承教师模型的逼近能力。所提出的目标函数由学生模型和教师模型各自的目标加上学习到的潜在表示之间的距离惩罚项组成。在三个非线性基准上的仿真结果表明，与应用于相同基准的深度架构相比，性能具有可比性。同时，算法透明性和结构效率也作为副产品得以实现。
引用
@article{arxiv.2312.15969,
title = {Exploiting the capacity of deep networks only at training stage for nonlinear black-box system identification},
author = {Vahid MohammadZadeh Eivaghi and Mahdi Aliyari Shooredeli},
journal= {arXiv preprint arXiv:2312.15969},
year = {2023}
}