在机器学习中放只虫：蛾嗅觉网络学会读取 MNIST
机器学习
2019-01-29 v3 神经与进化计算
神经元与认知
摘要
我们旨在 (i) 刻画生物神经网络中用于极少样本训练的架构，并 (ii) 将这些算法结构移植到机器学习语境中。蛾嗅觉网络是可学习的最简单生物神经系统之一，其架构包含生物神经网络中广泛存在的关键结构元素与机制，如级联网络、竞争性抑制、高本征噪声、稀疏性、奖励机制和赫布可塑性。这些生物结构元素相结合，实现了快速学习。MothNet 是蛾嗅觉网络的计算模型，紧密契合蛾的已知生物物理特性以及从学习新气味的蛾体内采集的在体电极数据。我们赋予该模型读取 MNIST 数字的任务。我们展示 MothNet 在极少训练样本（每类 1 到 10 个样本）下成功学会读取。在此少样本 regime 下，它优于最近邻、支持向量机和神经网络（NNs）等标准机器学习方法，并与专门的一次性迁移学习方法持平，但无需预训练。MothNet 架构阐明了源自生物大脑的算法结构如何用于构建替代性 NNs，从而可能避免当前工程化 NNs 的一些学习率限制。
引用
@article{arxiv.1802.05405,
title = {Putting a bug in ML: The moth olfactory network learns to read MNIST},
author = {Charles B. Delahunt and J. Nathan Kutz},
journal= {arXiv preprint arXiv:1802.05405},
year = {2019}
}
备注
23 pages, 7 figures. Version 3: 25 January 2019