基于 Delaunay 三角剖分与 Hessian 全变分正则化的学习
信号处理
2022-08-17 v1 机器学习
摘要
回归是监督学习中的核心问题之一。修正线性单元（ReLU）神经网络生成连续分段线性（CPWL）映射，是解决回归问题的前沿方法。本文提出一种利用 CPWL 函数表达能力的替代方法。与深度神经网络不同，我们的 CPWL 参数化保证稳定性且可解释。我们的方法依赖于用 Delaunay 三角剖分对 CPWL 函数的定义域进行划分。三角剖分顶点处的函数值是可学习参数，并唯一确定 CPWL 函数。将学习方案表述为变分问题，我们使用 Hessian 全变分（HTV）作为正则化项以偏好具有较少仿射片的 CPWL 函数。由此，我们通过单一超参数控制模型复杂度。通过开发计算框架以计算任意由三角剖分参数化的 CPWL 函数的 HTV，我们将学习问题离散化为广义最小绝对收缩与选择算子（LASSO）。我们的实验验证了该方法在低维场景中的使用。
引用
@article{arxiv.2208.07787,
title = {Delaunay-Triangulation-Based Learning with Hessian Total-Variation Regularization},
author = {Mehrsa Pourya and Alexis Goujon and Michael Unser},
journal= {arXiv preprint arXiv:2208.07787},
year = {2022}
}