低秩张量积中的局部 Dirichlet 能的惩罚
机器学习
2026-01-21 v1 机器学习
摘要
我们研究低秩张量积 B 样条（TPBS）模型用于回归任务，并探讨 Dirichlet 能作为平滑度度量。我们指出 TPBS 模型可以获得 Dirichlet 能的闭式表达式，并揭示了在指数级小的 Dirichlet 能下实现完美插值的情形。这使得基于全局 Dirichlet 能的正则化失效。为克服这一限制，我们提出一种基于在训练点周围的小超立方体上定义的局部 Dirichlet 能的新型正则化策略。我们利用预训练的 TPBS 模型，还引入两种用于从不完整样本进行推断的估计器。与神经网络进行的比较实验表明，在大多数数据集的过拟合情形下，TPBS 模型在过拟合情形下优于神经网络，其他情况下性能相当。总体而言，TPBS 模型对过拟合更具鲁棒性且始终从受惩罚中受益，而神经网络对过拟合更敏感，在利用正则化方面效果较差。
引用
@article{arxiv.2601.14173,
title = {Penalizing Localized Dirichlet Energies in Low Rank Tensor Products},
author = {Paris A. Karakasis and Nicholas D. Sidiropoulos},
journal= {arXiv preprint arXiv:2601.14173},
year = {2026}
}
备注
19 pages