中文

大语言模型与基础模型在智慧农业中的基本原理、机遇与挑战

机器学习 2024-03-19 v4 计算机视觉与模式识别

摘要

过去十年见证了机器学习(ML)与深度学习(DL)方法在农业系统中的快速发展和应用,在农业应用中取得了巨大成功。然而,这些传统的 ML/DL 模型存在一定局限:它们严重依赖大规模、获取成本高的标注数据集进行训练,需要专业知识进行开发与维护,且大多针对特定任务定制,因而缺乏泛化能力。近来,大型预训练模型(也称为基础模型,FMs)在多个领域的语言、视觉和决策任务中展现出显著成功。这些模型在来自多领域和多模态的大量数据上训练。一旦训练完成,它们仅需少量微调和极少的任务特定标注数据即可完成多种任务。尽管其有效性和巨大潜力已被证实,将 FMs 应用于农业 AI 的探索仍很少。因此,本研究旨在探索 FMs 在智慧农业领域的潜力。特别地,我们给出了概念工具与技术背景,以帮助理解问题空间并揭示新的研究方向。为此,我们回顾了通用计算机科学领域近期的 FMs,并将这些模型分为四类:语言基础模型、视觉基础模型、多模态基础模型和强化学习基础模型。接着,我们概述了开发农业基础模型(AFMs)的步骤,并讨论了其在智慧农业中的潜在应用。此外,我们还讨论了与开发 AFMs 相关的挑战与风险,包括模型训练、验证和部署。总之,本文通过引入 AFMs 这一有望显著减少对大量标注数据依赖并提升农业 AI 系统效率、有效性与泛化能力的有前景范式,探讨了农业 AI 的进展。

关键词

引用

@article{arxiv.2308.06668,
  title  = {Large Language Models and Foundation Models in Smart Agriculture: Basics, Opportunities, and Challenges},
  author = {Jiajia Li and Mingle Xu and Lirong Xiang and Dong Chen and Weichao Zhuang and Xunyuan Yin and Zhaojian Li},
  journal= {arXiv preprint arXiv:2308.06668},
  year   = {2024}
}

备注

18 pages, 3 figures