最小修剪平方法的计算：基于超平面布置增强的分支-界限框架
最优化与控制
2026-04-15 v2 机器学习
统计理论
统计理论
摘要
我们研究了稳健统计学中的关键问题——惩罚性最小修剪平方 (LTS) 回归问题，这是一种通过对残差（具有大幅度）进行上限来缓解异常值影响的稳健估计器。尽管该方法在统计上具有吸引力，但惩罚性 LTS 是 NP-hard 的，现有的混合整数规划 (MIO) 表述因松弛较弱且在观测数据数量指数级复杂度而表现不佳。我们提出了新的 MIO 表述，将超平面布置逻辑嵌入透视化简中，显式地强制最优解的结构属性。我们证明，如果特征数量固定，随样本量的增大而增长的分支-界限树将是多项式大小的。此外，我们开发了针对性的分支-界限算法，使用一阶方法的对偶界来高效求解节点松弛。计算实验在合成数据和真实数据上表明，我们的针对性求解器在现有 MIO 方法上取得了显著的改进：在样本数为 5000、特征数为 20 的合成实例上，我们的求解器在 1 分钟内达到 1% 的间隙，而竞争方法在 1 小时内无法完成。这些收益使得在低维情形下对更大规模样本进行精确稳健回归成为可能。
引用
@article{arxiv.2604.11584,
title = {Computation of Least Trimmed Squares: A Branch-and-Bound framework with Hyperplane Arrangement Enhancements},
author = {Xiang Meng and Andrés Gómez and Rahul Mazumder},
journal= {arXiv preprint arXiv:2604.11584},
year = {2026}
}