中文

双线性回归中交替最小化的渐近动力学

最优化与控制 2025-02-03 v3 无序系统与神经网络 机器学习

摘要

本研究探讨了在渐近系统规模极限下,交替最小化应用于具有正态分布协变量的双线性回归任务的动力学,其中参数和观测数量以相同速率发散。这是通过将复制方法应用于多温度玻璃系统来实现的,该系统展开了算法的时间演化。我们的结果表明,动力学可以有效地由二维离散随机过程描述,其中每一步都依赖于所有先前的时间步,揭示了交替最小化演化中记忆依赖的结构。本工作开发的理论框架可应用于各种迭代算法的分析,超出了交替最小化的范围。

关键词

引用

@article{arxiv.2402.04751,
  title  = {Asymptotic Dynamics of Alternating Minimization for Bilinear Regression},
  author = {Koki Okajima and Takashi Takahashi},
  journal= {arXiv preprint arXiv:2402.04751},
  year   = {2025}
}

备注

31 pages, 6 figures