神经网络无数据训练之研究
机器学习
2025-10-31 v1
摘要
本文调查了在训练数据自由环境中使用神经网络进行优化的研究。具体而言，我们检阅了使用全连接（或 MLP）、卷积、图神经网络和二次神经网络来重构问题以进行优化的无数据神经网络方法。虽然 MLP 已用于数十年前解线性规划程序，但由于其在组合优化、逆问题和偏微分方程等多样化应用中的前景成果，最近受到日益增长的关注。这种做法的动力来自两个关键（可能重叠）因素：(i) 数据驱动的学习方法仍不成熟，尚未在组合优化中显示出强大的效果，且 (ii) 训练数据的可用性本质上有限，例如在医学图像重建和其他科学应用中。本文定义了无数据环境，并根据问题实例——由单个数据定义——如何编码到神经网络中，将其分为两个变体：(i) 体系结构不可知的方法和 (ii) 体系结构特定的方法。此外，我们讨论了无数据神经网络 (dNN) 设置与零样例学习、单样例学习、优化中的提升以及过参数化等相关概念之间的相似性，并阐明了其区别。
引用
@article{arxiv.2510.25962,
title = {On the Dataless Training of Neural Networks},
author = {Alvaro Velasquez and Susmit Jha and Ismail R. Alkhouri},
journal= {arXiv preprint arXiv:2510.25962},
year = {2025}
}