基于常微分方程的神经网络分类稳定吸引子方法(SA-nODE)
无序系统与神经网络
2024-05-21 v2 统计力学
人工智能
机器学习
摘要
本文提出一种位于机器学习与动力系统理论交叉处的监督分类新方法。与其他将常微分方程用于分类目的的方法不同,该未训练模型被先验地构建为容纳一组预先指定的平稳稳定吸引子。分类在于根据作为输入提供的被处理项的特性,将动力学导向所植入的吸引子之一。因此系统将渐近收敛于所探索多维空间中的特定点,标记待最终分类对象的类别。在此背景下,训练后模型所习得的内在分类能力最终反映在与各目标稳定吸引子相关联的成形吸引域中。所提方法的性能在此通过专门构建的简单玩具模型以及既有的公认参考标准进行考验。尽管该方法未达到最先进深度学习算法的性能,但它说明了具有闭合解析相互作用项的连续动力系统可用作高性能分类器。
引用
@article{arxiv.2311.10387,
title = {Stable Attractors for Neural networks classification via Ordinary Differential Equations (SA-nODE)},
author = {Raffaele Marino and Lorenzo Giambagli and Lorenzo Chicchi and Lorenzo Buffoni and Duccio Fanelli},
journal= {arXiv preprint arXiv:2311.10387},
year = {2024}
}
备注
16 pages