基于生物仿生学习的MNIST分类能效信息表示
机器学习
2026-03-03 v1
摘要
高效信息表征学习是实现最优信息存储与分类的关键，但在人工神经网络(ANN)中常被忽视。这一忽视导致网络可因冗余而膨胀至最高可达13倍，增加能耗消耗。随着大型语言模型(LLMs)及其规模的不断增长，这些问题进一步凸显，引发重大的伦理与环境顾虑。我们分析了先前开发的生物仿生学习规则，运用信息论概念进行评估，考察其在MNIST分类任务中的效率。该提出规则模拟大脑结构性可塑性，天然通过优化突触用途、保留必需突触数量来防止过参数化。此外，它在效率与存储容量方面超越反向传播(BP)。它还消除网络架构预优化的需求，提升适应性，反映大脑保留'空间'以存储新记忆的能力。这一方法推动了可扩展且高效的AI发展，为开发优化资源分配与适应性的仿生模型提供了前景。
引用
@article{arxiv.2603.00588,
title = {Energy-Efficient Information Representation in MNIST Classification Using Biologically Inspired Learning},
author = {Patrick Stricker and Florian Röhrbein and Andreas Knoblauch},
journal= {arXiv preprint arXiv:2603.00588},
year = {2026}
}
备注
14 pages, accepted for publication in proceedings of the 10th BWHPC Symposium