中文

用于细胞电子冷冻断层成像所捕获大分子结构分离加速的模型压缩

定量方法 2018-03-28 v1 计算机视觉与模式识别 机器学习

摘要

电子冷冻断层成像(ECT)能够对单细胞内大分子结构进行三维可视化。基于卷积神经网络(CNN)的大分子分类方法已被开发出来,用于从ECT中系统分离数百万个捕获的大分子。然而,鉴于ECT数据的快速积累,在预测阶段很快将有必要使用CNN模型高效且准确地分离数量大幅增加的大分子,这需要额外的计算成本。为加速预测,我们将分类模型压缩为紧凑的神经网络,且精度损失很小以便部署。具体而言,我们提出通过知识蒸馏进行模型压缩。首先训练一个复杂的教师网络以生成具有更好分类可行性的软标签,随后利用软标签训练具有简单结构的定制学生网络,从而压缩模型复杂度。我们的测试表明,压缩后的模型在保持相似分类精度的同时,显著减少了参数数量和时间成本。

关键词

引用

@article{arxiv.1801.10597,
  title  = {Model compression for faster structural separation of macromolecules captured by Cellular Electron Cryo-Tomography},
  author = {Jialiang Guo and Bo Zhou and Xiangrui Zeng and Zachary Freyberg and Min Xu},
  journal= {arXiv preprint arXiv:1801.10597},
  year   = {2018}
}

备注

8 pages