中文

训练人工神经网络的抗噪化学反应网络

分子网络 2024-10-17 v1 新兴技术 化学物理

摘要

人工神经网络(NN)可以使用化学反应网络(CRN)来实现,其中物种的浓度作为输入和输出。在这种生化计算中,由于化学反应中存在内在和外在噪声,抗噪计算至关重要。先前提出的用于前馈网络的 CRN 通常利用修正线性单元(ReLU)或离散激活函数。然而,这种情况下一个问题是这些非光滑函数的导数不连续,这可能在反向传播过程中导致显著的噪声干扰。在本研究中,我们提出了一种 CRN,它使用平滑激活函数执行前馈和训练过程,以避免反向传播中的不连续性。所有反应都在单锅中进行,训练反应是双分子的。我们在 XOR、Iris、MNIST 数据集以及非线性回归模型上的案例研究表明,通过 CRN 的计算(i)尽管反应速率和物种浓度存在噪声,但仍能保持准确性,(ii)与非平滑激活函数的 NN 相比,对运行时间和噪声大小的选择不敏感。这项工作为完整的 NN 计算(包括反向传播)提供了一种抗噪 CRN,为更稳定和高效的生化计算系统铺平了道路。

关键词

引用

@article{arxiv.2410.11919,
  title  = {Noise-robust chemical reaction networks training artificial neural networks},
  author = {Sunghwa Kang and Jinsu Kim},
  journal= {arXiv preprint arXiv:2410.11919},
  year   = {2024}
}

备注

33 pages