中文

基础模型何时才为基础模型

信息检索 2023-09-22 v1 人工智能 计算机视觉与模式识别

摘要

近来,若干研究报道了在医学图像-文本建模领域对基础模型进行微调,所用图像来自 Twitter 和 PubMed 等在线数据源。基础模型是大型深度人工神经网络,能够通过在极大规模数据集上的训练学习特定领域的上下文。通过验证,我们观察到此类模型生成的表征在数字病理学的检索任务中表现劣于显著更小的常规深度网络生成的表征。

关键词

引用

@article{arxiv.2309.11510,
  title  = {When is a Foundation Model a Foundation Model},
  author = {Saghir Alfasly and Peyman Nejat and Sobhan Hemati and Jibran Khan and Isaiah Lahr and Areej Alsaafin and Abubakr Shafique and Nneka Comfere and Dennis Murphree and Chady Meroueh and Saba Yasir and Aaron Mangold and Lisa Boardman and Vijay Shah and Joaquin J. Garcia and H. R. Tizhoosh},
  journal= {arXiv preprint arXiv:2309.11510},
  year   = {2023}
}