预测分层支持向量回归的临界层数
机器学习
2021-02-03 v1 数值分析
数值分析
摘要
分层支持向量回归（HSVR）将数据函数建模为一系列尺度上 SVR 模型的线性组合，从粗尺度开始并随层次推进移至更细尺度。在 HSVR 的原始表述中，没有选择模型深度的规则。在本文中，我们在多个模型中观察到训练误差的相变——在添加层时误差保持相对恒定，直到越过临界尺度，此时训练误差降至接近零并对增加的层保持几乎恒定。我们引入一种方法，基于数据的傅里叶变换或动态模式分解（DMD）谱的支撑集来先验预测该临界尺度。这使我们能够在训练任何模型之前确定所需的层数。
引用
@article{arxiv.2012.11734,
title = {Predicting the Critical Number of Layers for Hierarchical Support Vector Regression},
author = {Ryan Mohr and Maria Fonoberova and Zlatko Drmač and Iva Manojlović and Igor Mezić},
journal= {arXiv preprint arXiv:2012.11734},
year = {2021}
}
备注
18 pages, 9 figures