KCNet：一种受昆虫启发的、具随机二值权重的单隐层神经网络，用于预测与分类任务
机器学习
2025-01-09 v3 计算机视觉与模式识别
摘要
果蝇是研究嗅觉学习的成熟模型系统，因为它们易于学会将气味与电击或糖奖励相关联。昆虫脑中显然负责嗅觉学习的机制构成了相对浅层的神经元架构。嗅觉输入由脑的触角叶（AL）接收，其在约 50 个称为肾小球的小单元上产生每种气味混合物的编码。这些肾小球随后将其特征向量的分量投射到脑中称为蘑菇体（MB）区域的约 2000 个所谓 Kenyon 细胞（KC）中的若干个。果蝇对气味的响应由小的下游神经元产生，这些神经元从 MB 解码高阶表示。研究表明，肾小球—KC 连接（以及因此的特定高阶表示）中无可辨识的模式；它们类似于指纹——即便是同基因型果蝇也具有不同的投射。利用该架构的洞见，我们提出 KCNet，一种单隐层神经网络，其在输入层与隐层之间包含稀疏、随机、二值的权重，并在隐层与输出层之间包含解析学习的权重。此外，我们还提出一种动态优化算法，通过寻找更高效的一组输入使 KCNet 能超越其结构限制提升性能。对于预测气味剂感知特性的气味剂感知任务，我们表明 KCNet 优于现有的数据驱动方法，如 XGBoost。对于图像分类任务，KCNet 在基准数据集（MNIST、Fashion-MNIST 与 EMNIST）上取得了合理的性能，且无需任何数据增强方法或卷积层，并展现出尤为快速的运行时间。
引用
@article{arxiv.2108.07554,
title = {KCNet: An Insect-Inspired Single-Hidden-Layer Neural Network with Randomized Binary Weights for Prediction and Classification Tasks},
author = {Jinyung Hong and Theodore P. Pavlic},
journal= {arXiv preprint arXiv:2108.07554},
year = {2025}
}
备注
24 pages, 46 figures, 3 tables; The GitHub repo link was updated