KDAS：用于息肉分割的基于注意力监督框架的知识蒸馏
图像与视频处理
2024-04-25 v3 计算机视觉与模式识别
机器学习
摘要
息肉分割是医学成像中一个备受关注的问题，目前已提出许多旨在提高分割掩码质量的方法。尽管当前最先进的技术取得了令人瞩目的成果，但这些模型的尺寸和计算成本给实际的工业应用带来了挑战。为了应对这一挑战，我们提出了 KDAS，一个结合了注意力监督的知识蒸馏框架，以及我们提出的对称引导模块。该框架旨在促进具有较少参数的紧凑学生模型，使其能够学习教师模型的优势，并通过对称引导模块缓解教师特征与学生特征之间的不一致性，这是知识蒸馏中常见的挑战。通过大量实验，我们的紧凑模型取得了与最先进方法相媲美的结果，展示了其优势，为息肉分割和医学成像领域创建高精度紧凑模型提供了一种有前景的方法。实现代码可在 https://github.com/huyquoctrinh/KDAS 获取。
引用
@article{arxiv.2312.08555,
title = {KDAS: Knowledge Distillation via Attention Supervision Framework for Polyp Segmentation},
author = {Quoc-Huy Trinh and Minh-Van Nguyen and Phuoc-Thao Vo Thi},
journal= {arXiv preprint arXiv:2312.08555},
year = {2024}
}