有限样本推断中仅由离群值驱动的线性回归系数显著性

本文探讨了离群值对线性回归系数统计显著性的影响。通过使用 R 进行数值模拟，我们展示了一个离群值会导致原本不显著的系数呈现统计显著性。我们将其与稳健 Huber 回归进行比较，后者减少了离群值的影响。随后，我们近似估计单个离群值对估计回归系数的影响，并讨论了常用的诊断统计量以检测回归中的影响性观测（例如学生化残差）。此外，我们将此问题与简单线性回归中的可选正态性假设相关联[14]，该假设是进行精确有限样本推断所必需的，但对于大样本n由中心极限定理(CLT)渐进地得到正当化。我们也解决了仅依赖 p 值而不进行充分回归诊断的一般危险。最后，我们提供了关于回归方法的概述，并讨论了它们如何与高斯-马尔可夫定理的假设相关联。