掩码自编码器是细胞形态的可扩展学习器
计算机视觉与模式识别
2023-11-29 v2 人工智能
机器学习
摘要
从高内涵显微镜筛选中从细胞表型推断生物学关系，在生物学研究中既带来重大机遇也提出挑战。先前结果表明，深度视觉模型比手工设计特征能更好地捕捉生物学信号。本工作探索了在更大显微镜数据集上训练更大模型时，自监督深度学习方法如何扩展。我们的结果显示，基于 CNN 和 ViT 的掩码自编码器显著优于弱监督基线。在我们规模的顶端，一个在从 9300 万张显微镜图像中采样的超过 35 亿独特裁剪块上训练的 ViT-L/8，在推断从公共数据库整理的已知生物学关系上，相对于我们最佳弱监督基线取得了高达 28% 的相对提升。本工作发布的相关代码与部分模型可在 https://github.com/recursionpharma/maes_microscopy 获取。
引用
@article{arxiv.2309.16064,
title = {Masked Autoencoders are Scalable Learners of Cellular Morphology},
author = {Oren Kraus and Kian Kenyon-Dean and Saber Saberian and Maryam Fallah and Peter McLean and Jess Leung and Vasudev Sharma and Ayla Khan and Jia Balakrishnan and Safiye Celik and Maciej Sypetkowski and Chi Vicky Cheng and Kristen Morse and Maureen Makes and Ben Mabey and Berton Earnshaw},
journal= {arXiv preprint arXiv:2309.16064},
year = {2023}
}
备注
Spotlight at NeurIPS 2023 Generative AI and Biology (GenBio) Workshop