OpenFlamingo：一个用于训练大型自回归视觉-语言模型的开源框架
计算机视觉与模式识别
2023-08-08 v2 人工智能
机器学习
摘要
我们介绍了 OpenFlamingo，一系列参数规模从 3B 到 9B 的自回归视觉-语言模型。OpenFlamingo 是一项正在进行的努力，旨在产生 DeepMind 的 Flamingo 模型的开源复现。在七个视觉-语言数据集上，OpenFlamingo 模型平均达到了相应 Flamingo 性能的 80% - 89%。本技术报告描述了我们的模型、训练数据、超参数和评估套件。我们在 https://github.com/mlfoundations/open_flamingo 分享了我们的模型和代码。
引用
@article{arxiv.2308.01390,
title = {OpenFlamingo: An Open-Source Framework for Training Large Autoregressive Vision-Language Models},
author = {Anas Awadalla and Irena Gao and Josh Gardner and Jack Hessel and Yusuf Hanafy and Wanrong Zhu and Kalyani Marathe and Yonatan Bitton and Samir Gadre and Shiori Sagawa and Jenia Jitsev and Simon Kornblith and Pang Wei Koh and Gabriel Ilharco and Mitchell Wortsman and Ludwig Schmidt},
journal= {arXiv preprint arXiv:2308.01390},
year = {2023}
}