在脉冲神经数据的序列自编码器中实现超参数优化

神经接口的持续进步已使得能够同时监测数百至数千个神经元的脉冲活动。为解释这些大规模数据，已提出多种方法从高维数据集中推断潜在动态结构。最近的一项工作使用序列自编码器（SAE）框架中的循环神经网络来揭示动力学。SAE是建模非线性动力系统的一个有吸引力的选项，并能在单试次基础上实现神经活动与行为之间的精确联系。然而，SAE相对于其他模型而言非常大的参数数量和复杂性引起了担忧，即SAE可能仅在非常大的训练集上表现良好。我们假设，通过一种系统优化超参数（HP）的方法，SAE即使在训练数据有限的情况下也可能表现良好。这样的突破将极大地扩展其适用性。然而，我们发现应用于脉冲神经数据的SAE容易出现一种特定形式的过拟合，这种过拟合无法使用标准验证指标检测到，从而阻碍了标准的HP搜索。我们开发并测试了两种潜在的解决方案：一种替代验证方法（“样本验证”）和一种新颖的正则化方法（“协调式丢弃”）。这些创新相当有效地防止了过拟合，并使我们能够通过大规模HP优化来测试SAE能否在有限数据上取得良好性能。当应用于猴子朝不同方向伸手时记录的运动皮层数据时，大规模HP优化使SAE在较小数据集规模下能更好地保持性能。我们的结果应能极大地扩展SAE在从稀疏、多维数据（如神经群体脉冲活动）中提取潜在动力学方面的适用性。