受神经科学启发的在线无监督学习算法

尽管当前流行的深度学习网络在某些任务上取得了前所未有的性能，但人脑仍对通用智能具有垄断地位。受此以及深度学习网络在生物学上不合理性的启发，我们开发了一系列生物学上合理的人工神经网络（NNs）用于无监督学习。我们的方法基于优化包含一项的原则性目标函数，该项将输出的两两相似性与输入的相似性相匹配，因此得名——基于相似性。此类基于相似性目标函数的基于梯度的在线优化可由具有生物学上合理的局部学习规则的神经网络实现。基于相似性的代价函数及相关的神经网络解决了无监督学习任务，如线性降维、稀疏和/或非负特征提取、盲非负源分离、聚类和流形学习。