训练人工神经网络的抗噪化学反应网络
分子网络
2024-10-17 v1 新兴技术
化学物理
摘要
人工神经网络(NN)可以使用化学反应网络(CRN)来实现,其中物种的浓度作为输入和输出。在这种生化计算中,由于化学反应中存在内在和外在噪声,抗噪计算至关重要。先前提出的用于前馈网络的 CRN 通常利用修正线性单元(ReLU)或离散激活函数。然而,这种情况下一个问题是这些非光滑函数的导数不连续,这可能在反向传播过程中导致显著的噪声干扰。在本研究中,我们提出了一种 CRN,它使用平滑激活函数执行前馈和训练过程,以避免反向传播中的不连续性。所有反应都在单锅中进行,训练反应是双分子的。我们在 XOR、Iris、MNIST 数据集以及非线性回归模型上的案例研究表明,通过 CRN 的计算(i)尽管反应速率和物种浓度存在噪声,但仍能保持准确性,(ii)与非平滑激活函数的 NN 相比,对运行时间和噪声大小的选择不敏感。这项工作为完整的 NN 计算(包括反向传播)提供了一种抗噪 CRN,为更稳定和高效的生化计算系统铺平了道路。
引用
@article{arxiv.2410.11919,
title = {Noise-robust chemical reaction networks training artificial neural networks},
author = {Sunghwa Kang and Jinsu Kim},
journal= {arXiv preprint arXiv:2410.11919},
year = {2024}
}
备注
33 pages