多变量线性系统辨识的贝叶斯与正则化方法：秩惩罚的作用
系统与控制
2014-10-01 v1 机器学习
机器学习
摘要
线性系统辨识的最新进展提出了利用基于正则化策略的非参数方法来处理所谓的偏差/方差权衡问题。本文引入了一种脉冲响应估计器，该估计器依赖于一种 型正则化，其中包含利用 log-det 启发式方法作为秩函数平滑近似而导出的秩惩罚项。这使得我们能够兼顾估计脉冲响应的不同特性（如平滑性和稳定性），同时惩罚高复杂度模型。此外，该方法还能考虑并强制多输入多输出 (MIMO) 系统中不同输入 - 输出通道之间的耦合。根据贝叶斯范式，通过优化边缘似然函数来估计定义两个正则化项相对权重的参数以及秩惩罚项的结构。一旦这些超参数被估计出来，脉冲响应估计值即可通过闭式形式获得。实验表明，所提出的方法优于仅依赖“经典” 正则化的估计器，以及基于原子范数和核范数的估计器。
引用
@article{arxiv.1409.8327,
title = {Bayesian and regularization approaches to multivariable linear system identification: the role of rank penalties},
author = {Giulia Prando and Alessandro Chiuso and Gianluigi Pillonetto},
journal= {arXiv preprint arXiv:1409.8327},
year = {2014}
}
备注
to appear in IEEE Conference on Decision and Control, 2014