具有神经科学约束的 Johnson-Lindenstrauss 压缩
神经元与认知
2014-11-21 v1 数据结构与算法
概率论
统计理论
统计理论
摘要
由稀疏随机突触连接实现的 Johnson-Lindenstrauss (JL) 矩阵被认为是大脑中汇聚通路压缩信息的主要候选机制。然而，迄今为止，考虑到真实神经组织的约束，此类实现尚缺乏完整的数学支持。神经元要么是兴奋性的要么是抑制性的，这一事实意味着任何可实现的 JL 矩阵必须是符号一致的（即单列中的所有条目必须全为非负或全为非正）；而任何给定神经元仅连接到相对较少其他神经元子集的事实，则意味着 JL 矩阵最好是稀疏的。我们构建了符号一致的稀疏 JL 矩阵，并证明了我们的构造在本质上是优化的。我们的工作回答了一个由早期工作引发的数学问题，该问题对于证明大脑中存在 JL 压缩是必要的，并强调了如果神经元要执行高效且保持相关性的压缩，抑制作用至关重要。
引用
@article{arxiv.1411.5383,
title = {Johnson-Lindenstrauss Compression with Neuroscience-Based Constraints},
author = {Zeyuan Allen-Zhu and Rati Gelashvili and Silvio Micali and Nir Shavit},
journal= {arXiv preprint arXiv:1411.5383},
year = {2014}
}
备注
A shorter version of this paper has appeared in the Proceedings of the National Academy of Sciences