中文

SCAI:面向IoT平台的具有自适应推理的光谱数据分类框架

机器学习 2022-06-28 v1 信号处理

摘要

当前,借助深度学习和IoT技术实现海量光谱数据的准确、高效、实时识别是一个热门研究课题。深度神经网络在光谱分析中发挥了关键作用。然而,更深模型的推理以静态方式执行,无法根据设备进行调整。并非所有样本都需要分配全部计算以达到可信预测,这阻碍了整体性能的最大化。为解决上述问题,我们提出了一种具有自适应推理的光谱数据分类框架。具体而言,为不同样本分配不同计算量并更好地利用不同设备间的协作,我们采用Early-exit架构,在架构不同深度放置中间分类器,当预测置信度达到预设阈值时模型输出结果。我们提出了自蒸馏学习的训练范式,最深层分类器对浅层分类器进行软监督以最大化其性能和训练速度。同时,为缓解Early-exit范式中中间分类器的位置和数量设置对性能的脆弱性,我们提出了位置自适应残差网络。它可调整不同曲线位置每个块中的层数,从而聚焦于曲线的重要位置(例如:拉曼峰),并基于任务性能和计算资源准确分配适当的计算预算。据我们所知,本文是首次尝试在IoT平台下通过自适应推理对光谱检测进行优化。我们进行了大量实验,实验结果表明,与现有方法相比,我们提出的方法能以更少的计算预算实现更高的性能。

关键词

引用

@article{arxiv.2206.12420,
  title  = {SCAI: A Spectral data Classification framework with Adaptive Inference for the IoT platform},
  author = {Yundong Sun and Dongjie Zhu and Haiwen Du and Yansong Wang and Zhaoshuo Tian},
  journal= {arXiv preprint arXiv:2206.12420},
  year   = {2022}
}

备注

14 pages,11 figures