基于含噪数据的线性模型与 Frisch 方案

我们探讨了基于含噪测量识别变量间线性关系的问题。这无疑是涉及“大数据”问题中的一个核心问题。一个关键假设通常是每个变量中的测量误差是独立的。这一精确表述源于 Charles Spearman 在 1904 年以及 Ragnar Frisch 在 20 世纪 30 年代的工作。变量误差 (errors-in-variables)、因子分析和工具变量等各种主题，都指的是关于如何解释噪声进入数据的预期方式这一问题的不同表述。在本文中，我们首先描述基本理论，并为一些关键结果提供替代的现代证明。随后，我们考虑该理论的某些推广，并将某些新颖的数值技术应用于该问题。Frisch-Kalman 准则起着核心作用，其旨在寻求一种噪声贡献，使得无噪变量之间允许最大数量的同时线性关系——这是一个秩最小化问题。自 Frisch 最初提出公式以来的岁月里，出现了几种见解，包括使用迹最小化作为替代秩最小化的便捷启发式方法。我们讨论了凸松弛以及保证全局最优性的证书。此外，我们引入了一种与 Frisch-Kalman 准则互补的观点，其中模型导致无误差变量的极大极小二次估计误差。我们讨论了这两种形式体系之间的联系点，并指出了各种替代的正则化方案。