中文

面向加速函数近似的硬件友好型输入扩展

机器学习 2026-02-23 v1

摘要

一维函数近似是科学计算和工程应用中的一个基本问题。虽然神经网络具备强大的通用逼近能力,但其优化过程常因参数空间对称性导致的平坦损失景观而受阻,尤其对于高频分量表现为收敛缓慢和泛化差。灵感来源于物理学中的对称性破缺原理,本文提出一种通过输入空间扩展实现函数近似的硬件友好方法。核心思想是将原始一维输入(如xx)增强为包含常数值的向量(如[π,π,x,π,π][\pi, \pi, x, \pi, \pi]),从而在不增加网络参数数量的前提下有效破坏参数对称性。我们在包括光滑函数、断连续函数、高频函数和不可导函数在内的十个典型一维函数上进行评估。实验结果表明,输入空间扩展显著加速了训练收敛速度(平均减少12%的LBFGS迭代次数),并提升了逼近精度(对于最佳5D扩展,最终均方误差降低66.3%)。消融研究进一步揭示了不同扩展维度和常数选择的影响,其中π\pi始终优于其他常数。我们的工作提出一种低成本、高效且硬件友好的算法设计技术。

关键词

引用

@article{arxiv.2602.17952,
  title  = {Hardware-Friendly Input Expansion for Accelerating Function Approximation},
  author = {Hu Lou and Yin-Jun Gao and Dong-Xiao Zhang and Tai-Jiao Du and Jun-Jie Zhang and Jia-Rui Zhang},
  journal= {arXiv preprint arXiv:2602.17952},
  year   = {2026}
}

备注

22 pages, 4 figures