重访切比雪夫多项式与各向异性径向基函数模型用于表格回归

光滑基模型，如切比雪夫多项式回归器和径向基函数 (RBF) 网络在数值分析中已为人所熟知。其连续可微预测曲面适用于代理优化、灵敏度分析以及其他响应随输入逐渐变化的场景。尽管具有这些特性，但光滑模型在表格回归中鲜有出现，树集合成物占据主导地位。我们询问它们是否能够与之竞争，在 55 个回归数据集上进行基准测试，这些数据集按应用领域组织。我们开发了一个数据驱动的中心放置和基于梯度的宽度优化的各向异性 RBF 网络，一个采用岭正则化的切比雪夫多项式回归器，以及一个光滑树混合模型 (切比雪夫模型树)；这三者均以 scikit-learn 兼容包形式发布。我们将这些模型与树集合成、预训练变压器以及标准基准进行比较，评估准确性及其泛化行为。变压器在大多数数据集上在准确性方面位居第一，但其 GPU 依赖、推理延迟和数据集大小限制约束了在常见于应用科学和行业的 CPU 环境中的部署。对于可行的 CPU 模型，光滑模型和树集合成在准确性上统计上相当，但前者倾向于表现出更紧凑的泛化间隙。我们建议在候选池中常规包含光滑基模型，特别是在下游用逓步受益于更紧凑的泛化和逐渐变化的预测时。