在线凸混合专家算法的确定性分析

我们分析了一种在线学习算法，该算法自适应地组合两个并行运行的组成算法（或专家）的输出，以建模未知的期望信号。研究表明，该在线学习算法在稳态下能够达到（并在某些情况下优于）混合体中最佳组成算法的均方误差 (MSE) 性能。然而，文献中对该算法的 MSE 分析使用了近似方法，并依赖于底层信号和系统的统计模型。因此，此类分析对于由各种现实生活系统生成的信号可能无用或无效，这些系统表现出高度的非平稳性、极限环，甚至在许多情况下是混沌的。在本文中，我们以个体序列的方式产生结果。特别是，我们将该在线算法在任何时间、任何区间上的时间累积平方估计误差，直接与针对底层信号最优调整的组成算法的最优凸混合的时间累积平方估计误差联系起来，这是一种无需任何统计假设的确定性意义。从这个意义上说，我们的分析在无需推导近似或对底层信号进行统计假设的情况下，以强有力的方式提供了该算法的瞬态、稳态和跟踪行为，从而保证我们的结果成立。我们通过实例说明了所引入的结果。