非可分离空间下近最优线性预测聚类：基于 MIP 与 QPBO 的约化
机器学习
2026-04-08 v3
摘要
线性预测聚类（LPC）基于特征变量与目标变量之间的共享线性关系对样本进行分区，广泛应用于营销、医疗和教育等领域。常用的贪心优化方法在聚类和线性回归之间交替，但缺乏全局最优性。虽然对可分离聚类有效，但在特征空间中重叠的非可分离环境中表现不佳。另一种受约束优化范式中，Bertsimas 和 Shioda (2007) 将 LPC 建模为混合整数规划（MIP），确保无论可分离性如何都能实现全局最优，但受规模限制。本 work 基于约束优化范式，引入两种新方法提高全局优化 LPC 的效率。通过利用可分离性的关键理论性质，我们导出具有可证误差界的近最优近似，显著降低 MIP 公式的复杂度并提升规模。此外，我们可以进一步将 LPC 近似为二次伪布尔优化（QPBO）问题，在某些情境下实现显著的计算提升。与合成数据和真实数据集的比较分析表明，我们的方法在保持远优于贪心优化的回归误差的同时，优于现有 MIP 公式在规模和性能上都有显著提升。
引用
@article{arxiv.2511.10809,
title = {Near-optimal Linear Predictive Clustering in Non-separable Spaces via MIP and QPBO Reductions},
author = {Jiazhou Liang and Hassan Khurram and Scott Sanner},
journal= {arXiv preprint arXiv:2511.10809},
year = {2026}
}