半代数神经网络：从根到表征
机器学习
2025-03-04 v2 数值分析
神经与进化计算
数值分析
摘要
科学计算中许多数值算法——特别是涉及数值线性代数、偏微分方程仿真和逆问题的领域——产生的输出可以用半代数函数来表示；即计算函数的图可以由有限个多项式等式和不等式描述。本文介绍了半代数神经网络（Semialgebraic Neural Networks, SANNs），这是一种能够表示任意有界半代数函数的神经网络架构，能够以程序员选择的数值ODE求解器的精度来计算此类函数。概念上，我们将学习函数的图编码为来自一类函数的分段多项式的核，其根可通过特定的 homotopy 连续方法求解。我们通过构造表明SANN架构能够执行此连续方法，从而评估所学的半代数函数。此外，该架构能够通过在目标函数的每个连通分支上执行连续方法，精确地表示即使是 discontinuous（不连续）的半代数函数。最后，我们提供这些网络的示例应用，表明它们可以用传统深度学习技术进行训练。
关键词
引用
@article{arxiv.2501.01564,
title = {Semialgebraic Neural Networks: From roots to representations},
author = {S. David Mis and Matti Lassas and Maarten V. de Hoop},
journal= {arXiv preprint arXiv:2501.01564},
year = {2025}
}