利用知识蒸馏实现轻量级皮肤癌分类：在准确率与计算效率之间的平衡
图像与视频处理
2024-07-01 v2 计算机视觉与模式识别
机器学习
摘要
皮肤癌是公共卫生的主要关切问题，占报告癌症病例的三分之一。若未及时检测，癌症可能严重后果。鉴于有效皮肤癌分类的关键需求，我们针对现有模型过大难以在计算资源有限的地区部署的局限性，提出一种基于知识蒸馈的方法，以创建轻量级且高性能的分类器。该方案涉及融合 ResNet152V2、ConvNeXtBase 和 ViT Base 三种模型，以创建有效的教师模型。随后利用该教师模型指导大小为 2.03 MB 的轻量级学生模型，进一步通过 16 位量化将其压缩至 469.77 KB，实现在边缘设备上的顺畅集成。经过六阶段图像预处理、数据增强和严格的消融研究，该模型在 HAM10000 数据集上实现 98.75% 的准确率，在 Kaggle 数据集上实现 98.94% 的准确率，以区分良性和恶性皮肤癌。凭借高准确率和紧凑尺寸，该模型可能成为资源受限环境中准确皮肤癌分类的理想选择。
引用
@article{arxiv.2406.17051,
title = {Leveraging Knowledge Distillation for Lightweight Skin Cancer Classification: Balancing Accuracy and Computational Efficiency},
author = {Niful Islam and Khan Md Hasib and Fahmida Akter Joti and Asif Karim and Sami Azam},
journal= {arXiv preprint arXiv:2406.17051},
year = {2024}
}