VLCD:用于准确高效自动胎盘分析的视觉-语言对比蒸馏
计算机视觉与模式识别
2025-06-04 v1 人工智能
计算与语言
机器学习
摘要
胎盘的病理检查是检测和降低分娩相关健康风险的有效方法。近期人工智能的进展使得利用胎盘照片和病理报告来检测和分类分娩相关病理迹象成为可能。然而,现有的自动化方法计算量庞大,限制了其可部署性。我们提出了对视觉-语言对比学习(VLC)框架的两项修改以提升其准确性和效率:(1)文本锚定的视觉-语言对比知识蒸馏(VLCD)——一种用于医学 VLC 预训练的新型知识蒸馏策略,以及(2)利用大型自然图像数据集进行无监督预蒸馏以改善初始化。我们的方法蒸馏出高效的神经网络,在实现模型压缩和加速的同时,其性能匹配或超越教师模型。我们的结果展示了无监督预蒸馏在提升本方法性能和鲁棒性方面的价值,特别是对于低质量图像。VLCD 作为一种有效方式提升了医学 VLC 方法的效率和可部署性,使基于 AI 的医疗解决方案更易获取,尤其是在资源受限的环境中。
引用
@article{arxiv.2506.02229,
title = {VLCD: Vision-Language Contrastive Distillation for Accurate and Efficient Automatic Placenta Analysis},
author = {Manas Mehta and Yimu Pan and Kelly Gallagher and Alison D. Gernand and Jeffery A. Goldstein and Delia Mwinyelle and Leena Mithal and James Z. Wang},
journal= {arXiv preprint arXiv:2506.02229},
year = {2025}
}
备注
Proceedings of the 9th International Workshop on Health Intelligence, in conjunction with the Annual AAAI Conference on Artificial Intelligence, Philadelphia, Pennsylvania, March 2025