面向荧光寿命成像的循环神经网络压缩及其在 FPGA 加速实现中的应用
应用统计
2024-10-03 v1 种群与进化
定量方法
摘要
荧光寿命成像（FLI）是研究细胞环境和分子相互作用的重要技术，但其实时应用受限于数据采集缓慢，后处理需要大量时分辨图像和复杂的迭代拟合算法。深度学习（DL）模型可实现实时推断，但因其复杂的体系结构和大规模矩阵运算，计算需求高，故不适合直接部署在基于 FPGA 的相机硬件上。因此，模型压缩对于实现实时推断至关重要。本文聚焦于压缩循环神经网络（RNN），因为 RNN 适用于 FLI 时序数据处理。我们对 various compression techniques 进行实证评估，包括权重降维、知识蒸馏（knowledge distillation, KD）、后训练量化（post-training quantization, PTQ）和量化感知训练（quantization-aware training, QAT），以减小模型规模和计算负荷，同时保持推断准确性。我们开发的压缩 RNN 模型 Seq2SeqLite 在计算效率和预测准确性之间取得平衡，尤其在 8 位精度下表现突出。通过应用 KD，模型参数规模缩小了 98%，且保持了性能，适用于在数据采集期间的 FPGA 并行实时 FLI 分析。这一工作标志着将硬件加速的实时 FLI 分析集成到快速生物过程中的重要一步。
引用
@article{arxiv.2410.00947,
title = {Data-Driven Modeling of Seasonal Dengue Dynamics in Bangladesh: A Bayesian-Stochastic Approach},
author = {Mahmudul Bari Hridoy and S M Mustaquim},
journal= {arXiv preprint arXiv:2410.00947},
year = {2024}
}
备注
6 pages, 5 figures. Accepted for presentation at the 2024 Biomedical Engineering International Conference (BMEiCON 2024) and to be published in IEEE Xplore