基于脉冲神经网络生成文本表示的生物合理学习机制
神经与进化计算
2022-08-23 v1
摘要
本研究提出了一种新颖的、生物合理的低维基于脉冲的文本表示生成机制。首先，我们展示了如何将文档转换为脉冲序列（脉冲列），随后将其用作脉冲神经网络（SNN）训练过程中的输入。该网络由生物合理的元件组成，并根据无监督的赫布学习规则——脉冲时序依赖可塑性（STDP）进行训练。训练后，该SNN可用于生成适用于文本/文档分类的低维基于脉冲的文本表示。实证结果表明，所生成的文本表示可有效用于文本分类，在20 newsgroups数据集的bydate版本上达到了的准确率，这在依赖低维文本表示的方法中处于领先水平。
引用
@article{arxiv.2006.14894,
title = {Biologically Plausible Learning of Text Representation with Spiking Neural Networks},
author = {Marcin Białas and Marcin Michał Mirończuk and Jacek Mańdziuk},
journal= {arXiv preprint arXiv:2006.14894},
year = {2022}
}
备注
This article was originally submitted for Parallel Problem Solving from Nature conference and will be available in Springer Lecture Notes in Computer Science (LNCS)