关于多维非平稳最大熵原理的一种可计算扩展的稀疏表述
统计计算
2020-11-25 v1 机器学习
摘要
基于最大熵原理（MaxEnt-principle）的数据驱动建模与计算预测，旨在寻找尽可能简单——但必要而不更简单——的模型，以避免数据过拟合问题。我们推导了 MaxEnt 原理的多元非参数且非平稳的表述，并证明其解可通过带正则化的稀疏约束优化问题的数值极大化来逼近。将所得算法应用于流行的金融基准，揭示了允许对主要股票市场指数数据进行简单且定性描述的无记忆模型。我们在模型拟合、复杂度与预测质量方面，将获得的 MaxEnt 模型与计算计量经济学中的异方差模型（GARCH、GARCH-GJR、MS-GARCH、GARCH-PML4）进行比较。我们比较了所得模型的对数似然、贝叶斯信息准则值、后验模型概率、数据自相关函数拟合质量以及风险价值（Value-at-Risk）预测质量。我们表明，所考虑的全部七个主要金融基准时间序列（DJI、SPX、FTSE、STOXX、SMI、HSI 和 N225）均比具有有限记忆的常用计量经济模型更好地由带非平稳机制切换的条件无记忆 MaxEnt 模型所描述。该分析还揭示了不同市场间正负潜在方差变化的统计显著时间关系的稀疏网络。代码已开放获取。
引用
@article{arxiv.2005.03253,
title = {On a computationally-scalable sparse formulation of the multidimensional and non-stationary maximum entropy principle},
author = {Horenko Illia and Marchenko Ganna and Gagliardini Patrick},
journal= {arXiv preprint arXiv:2005.03253},
year = {2020}
}