基于量化自注意力深度神经网络的可验证且高能效医学图像分析
计算机视觉与模式识别
2022-10-03 v1 人工智能
摘要
卷积神经网络（CNN）已在分类与分割等多种医学成像任务中发挥重要作用，相较于经典图像处理算法提供了最先进的性能。然而，这些方法的主要缺陷在于高计算复杂度、对GPU等高性能硬件的依赖以及模型固有的黑箱性质。本文提出以量化独立自注意力模型作为传统CNN的替代方案。在所提出的网络类别中，卷积层被独立自注意力层取代，且网络参数在训练后进行了量化。我们在分类与分割任务上通过实验验证了方法性能。我们观察到在CPU推理时模型尺寸缩减、参数数量减少、FLOPs降低且能效提升。代码将发布于\href {https://github.com/Rakshith2597/Quantised-Self-Attentive-Deep-Neural-Network}{https://github.com/Rakshith2597/Quantised-Self-Attentive-Deep-Neural-Network}。
引用
@article{arxiv.2209.15287,
title = {Verifiable and Energy Efficient Medical Image Analysis with Quantised Self-attentive Deep Neural Networks},
author = {Rakshith Sathish and Swanand Khare and Debdoot Sheet},
journal= {arXiv preprint arXiv:2209.15287},
year = {2022}
}
备注
Accepted at MICCAI 2022 FAIR Workshop