前向-前向学习在全脉冲神经网络中实现高度选择性的潜在表征，用于离分布检测
机器学习
2025-02-20 v2 人工智能
摘要
近年来，人工智能模型在各个领域取得了显著的成功，但在两个关键问题上仍面临挑战：确保对不确定性输入的鲁棒性，以及在训练和推理期间大幅提高模型效率。以脉冲神经网络（SNN）为灵感的神经网络，提供了克服这些限制的前景。通过以事件驱动方式工作，SNN实现低能耗，并能自然实现已知具有高噪声容忍性的生物学方法。在本工作中，我们探索了利用脉冲前向-前向算法（FFA）的潜力，以利用其表征属性进行离分布（OoD）检测和可解释性。为此，我们利用FF网络中稀疏且高度专业化的神经潜在空间来估计样本是否属于训练分布的可能性。此外，我们提出了一种新颖的、无梯度的归因方法，用于检测驱动样本偏离类别分布的特征，解决了由于大多数视觉可解释性方法在脉冲模型中缺乏梯度而导致的挑战。我们在众知名图像数据集（如Omniglot、Not-MNIST、CIFAR10）上评估了该OoD检测算法，优于最近文献中用于脉冲网络OoD检测的先前方法。 Furthermore, our attribution method precisely identifies salient OoD features, such as artifacts or missing regions, hence providing a visual explanatory interface for the user to understand why unknown inputs are identified as such by the proposed method.
引用
@article{arxiv.2407.14097,
title = {Forward-Forward Learning achieves Highly Selective Latent Representations for Out-of-Distribution Detection in Fully Spiking Neural Networks},
author = {Erik B. Terres-Escudero and Javier Del Ser and Aitor Martínez-Seras and Pablo Garcia-Bringas},
journal= {arXiv preprint arXiv:2407.14097},
year = {2025}
}