生成神经架构只需偏微分方程——一种物理人工智能系统理论
机器学习
2024-10-11 v2 人工智能
摘要
在本工作中，我们将统计物理中的反应扩散方程、量子力学中的薛定谔方程、傍轴光学中的亥姆霍兹方程推广为神经偏微分方程(NPDE)，其可被视为人工智能研究领域的根本方程。我们采用有限差分法离散化 NPDE 以求得数值解，并生成了深度神经网络架构的基本构建模块，包括多层感知机、卷积神经网络和循环神经网络。同时也给出了学习策略，如自适应矩估计(Adam)、L-BFGS、伪逆学习算法和偏微分方程约束优化。我们相信，所给出的可解释深度神经网络的清晰物理图像具有重要意义，这使得其可应用于模拟计算器件设计，并为物理人工智能铺平了道路。
引用
@article{arxiv.2103.08313,
title = {Partial Differential Equations is All You Need for Generating Neural Architectures -- A Theory for Physical Artificial Intelligence Systems},
author = {Ping Guo and Kaizhu Huang and Zenglin Xu},
journal= {arXiv preprint arXiv:2103.08313},
year = {2024}
}
备注
15 pages, 5 figures