将生物 SSVEP 响应迁移至人工神经网络

神经元重要性评估对于理解人工神经网络（ANN）的内部工作机制并提高其可解释性和效率至关重要。本文提出了一种受频率标记启发的神经元显著性评估新方法，频率标记是神经科学中的一种技术。通过向图像输入施加正弦对比度调制并分析由此产生的神经元激活，该方法能够对网络的决策过程进行细粒度分析。在用于图像分类的卷积神经网络上进行的实验揭示了在基于部件的频率标记下，神经元特异性响应中存在显著的谐波和互调。这些发现表明，ANN 表现出类似于生物大脑对闪烁频率调谐的行为，从而为通过频率标记进行神经元/滤波器重要性评估开辟了途径。所提方法在网络剪枝和模型可解释性方面具有应用前景，有助于推进可解释人工智能并解决神经网络缺乏透明度的问题。未来研究方向包括开发新颖的损失函数以鼓励 ANN 中符合生物学合理性的行为。