迈向高效的脉冲神经网络形式化验证
人工智能
2024-08-21 v1 新兴技术
神经与进化计算
摘要
近期，人工智能研究主要聚焦于大型语言模型（LLM），提高精度往往伴随着规模扩大和功耗增加。AI的功耗已成为一个重要的社会问题；在此背景下，脉冲神经网络（SNN）提供了一种有前景的解决方案。SNN像人脑一样事件驱动运行，并在时间上压缩信息。这些特性使SNN相比基于感知器的人工神经网络（ANN）能显著降低功耗，凸显其作为下一代神经网络技术的潜力。然而，社会对AI的担忧不仅限于功耗，AI模型的可靠性也是一个全球性问题。例如，针对AI模型的对抗性攻击在传统神经网络的背景下已被广泛研究。尽管SNN的重要性日益凸显，但其稳定性和属性验证仍处于研究早期阶段。大多数SNN验证方法耗时且可扩展性差，使得实际应用面临挑战。本文中，我们引入时间编码来实现SNN对抗鲁棒性的实用验证性能。我们对该方法进行了理论分析，并证明了其在以前难以处理的规模上验证SNN的有效性。我们的贡献将SNN验证推进到实用水平，促进了SNN的更安全应用。
引用
@article{arxiv.2408.10900,
title = {Towards Efficient Formal Verification of Spiking Neural Network},
author = {Baekryun Seong and Jieung Kim and Sang-Ki Ko},
journal= {arXiv preprint arXiv:2408.10900},
year = {2024}
}