ZACH-ViT：一种零令牌视觉变换器及ShuffleStrides数据增强，用于稳健的肺部超声分类
摘要
区分心性肺水肿（CPE）与非心性及结构正常肺在肺部超声（LUS）视频中的情况，由于非心性炎性模式（NCIP/ARDS样）、肺纤维化病变以及健康肺的高度视觉变异性，仍然具有挑战性。这种异质性使自动分类复杂化，因为重叠的B线和胸腔伪影很常见。我们引入ZACH-ViT（Zero-token Adaptive Compact Hierarchical Vision Transformer），这是一种0.25百万参数的视觉变换器变体，移除了位置嵌入和[CLS]令牌，使其完全不依赖排列顺序，适用于无序的医学图像数据。为增强泛化性，我们提出了ShuffleStrides数据增强（SSDA），该方法在保持解剖有效性的前提下，对探针视图序列和帧顺序进行置换。ZACH-ViT在95名重症患者的380例LUS视频上评估测试，对九个最先进的基准方法进行了评估。尽管非心性组的异质性较大，ZACH-ViT在验证和测试ROC-AUC分别达到0.80和0.79，平衡灵敏度为0.60，特异度为0.91，而所有竞争模型都退化为平凡分类。ZACH-ViT比Minimal ViT（0.62M参数）训练快1.35倍，参数数量减少2.5倍，支持实时临床部署。这些结果表明，与数据结构相匹配的架构设计在小数据医学影像中能够超过规模。
引用
@article{arxiv.2510.17650,
title = {ZACH-ViT: A Zero-Token Vision Transformer with ShuffleStrides Data Augmentation for Robust Lung Ultrasound Classification},
author = {Athanasios Angelakis and Amne Mousa and Micah L. A. Heldeweg and Laurens A. Biesheuvel and Mark A. Haaksma and Jasper M. Smit and Pieter R. Tuinman and Paul W. G. Elbers},
journal= {arXiv preprint arXiv:2510.17650},
year = {2025}
}
备注
14 pages, 6 figures, 2 tables. Primary subject: cs.LG (Machine Learning) Cross-listed to: cs.CV (Computer Vision and Pattern Recognition), eess.IV (Image and Video Processing). Code available at: https://github.com/Bluesman79/ZACH-ViT Installation: pip install zachvit Paper licensed under CC BY-NC-ND 4.0. Code released under Apache 2.0 License