相干性对具有正交列矩阵采样的影响及预条件最小二乘问题

受最小二乘求解器 Blendenpik 的启发，我们研究了三种从具有正交列的 m x n 矩阵 Q 中均匀采样行的策略。目标是以高概率确定需要多少行，才能使采样后的矩阵满秩且关于求逆具有良好的条件数。广泛的数值实验表明，对于小到中等规模的采样，三种采样策略（不放回、放回和 Bernoulli 采样）的表现几乎相同。特别是，满秩的采样矩阵往往具有不超过 10 的 2-范数条件数。我们根据 Q 的相干性 {\mu} 导出了采样矩阵条件数的界。该界适用于所有三种不同的采样策略；它隐含了采样行数一个不一定紧的下界 O(m {\mu} ln(n))；并且即使对于小维矩阵和严格的 99% 成功概率要求，该界也是现实且信息丰富的。对于有放回的均匀采样，我们根据 Q 的杠杆得分导出了可能更紧的条件数界。为了获得一个仅基于最大杠杆得分的更易计算版本的界，我们首先导出了对角缩放矩阵 2-范数的通用界。为了便于数值实验并测试界的紧密性，我们提出了生成具有用户指定相干性和杠杆得分矩阵的算法。这些算法、三种采样策略以及各种各样的条件数界均已实现在 Matlab 工具箱 kappa_SQ_v3 中。