msf-CNN：面向 TinyML 的基于分块的多阶段融合卷积神经网络
机器学习
2025-10-20 v3 性能
摘要
人工智能涵盖从大型语言模型到在微控制器（MCU）上运行的微型模型。极其内存高效的模型架构对于适应 MCU 的微小内存预算（例如 128kB RAM）至关重要。然而，推理延迟必须保持较小以满足实时约束。解决此问题的一种方法是基于分块的融合，旨在优化跨神经网络层的数据流。本文提出 msf-CNN，一种通过遍历表示为有向无环图的融合解空间，高效寻找卷积神经网络（CNN）最优融合设置的新技术。与以往针对 MCU 的 CNN 融合工作相比，msf-CNN 能识别出更广泛的解集。我们发布了 msf-CNN 在多种微控制器（ARM Cortex-M、RISC-V、ESP32）上运行的实现。我们证明，与现有技术（MCUNetV2 和 StreamNet）相比，msf-CNN 可使用减少 50% 的 RAM 完成推理。我们由此展示了 msf-CNN 如何为系统设计者提供额外的灵活性。
引用
@article{arxiv.2505.11483,
title = {msf-CNN: Patch-based Multi-Stage Fusion with Convolutional Neural Networks for TinyML},
author = {Zhaolan Huang and Emmanuel Baccelli},
journal= {arXiv preprint arXiv:2505.11483},
year = {2025}
}
备注
NeurIPS 2025 (poster)