监督同质融合：一种组合方法
机器学习
2022-01-05 v1 机器学习
统计理论
统计理论
摘要
将回归系数融合为同质组可揭示那些在每组内共享同一数值的系数。这种分组同质性降低了参数空间的内在维度并释放出更锐利的统计精度。我们提出并研究一种称为 -Fusion 的新组合分组方法，该方法适用于混合整数优化（MIO）。在统计方面，我们确定了称为分组敏感度的根本量，它支撑了恢复真实组的困难程度。我们证明 -Fusion 在分组敏感度的最弱可能要求下实现分组一致性：若该要求被违背，则组分误设定的极小极大风险将不收敛于零。此外，我们证明在高维情形下，可将 -Fusion 与特征的可信筛选集结合使用而无任何本质统计效率损失，同时大幅降低计算成本。在算法方面，我们给出 -Fusion 的 MIO 公式及热启动策略。模拟与真实数据分析表明 -Fusion 在分组精度上优于其竞争方法。
引用
@article{arxiv.2201.01036,
title = {Supervised Homogeneity Fusion: a Combinatorial Approach},
author = {Wen Wang and Shihao Wu and Ziwei Zhu and Ling Zhou and Peter X. -K. Song},
journal= {arXiv preprint arXiv:2201.01036},
year = {2022}
}