Hibou：面向病理学的基础视觉 Transformer 家族
图像与视频处理
2024-08-21 v2 计算机视觉与模式识别
摘要
病理学是对疾病组织进行显微检查的过程，对诊断各种医疗条件（尤其是癌症）至关重要。传统方法耗时且容易出错。数字病理学将玻璃切片转换为高分辨率数字图像，通过计算机算法进行分析，从而通过自动化图像分析和大规模数据处理来提高诊断准确性、一致性和效率。基础 transformer 预训练对于开发稳健、可泛化的模型至关重要，因为它使模型能够从大量未标注数据中学习。本文介绍了面向病理学的 Hibou 系列基础视觉 Transformer，采用 DINOv2 框架在超过 100 万张全切片图像（WSI）上进行预训练，这些图像代表了多种组织类型和染色技术。我们的预训练模型在 patch 级别和切片级别基准测试中表现优异，超越了现有的最先进方法。值得注意的是，Hibou-L 在多个基准数据集上的平均准确率最高。为支持该领域的进一步研究和应用，我们已开源 Hibou 模型，可在 https://github.com/HistAI/hibou 上访问。
引用
@article{arxiv.2406.05074,
title = {Hibou: A Family of Foundational Vision Transformers for Pathology},
author = {Dmitry Nechaev and Alexey Pchelnikov and Ekaterina Ivanova},
journal= {arXiv preprint arXiv:2406.05074},
year = {2024}
}