当持续学习遇见多模态大语言模型:综述
计算与语言
2026-03-24 v1 人工智能
风险管理
摘要
近期人工智能的发展导致多模态大语言模型(MLLMs)的出现。然而,高效地适应动态数据分布和各种任务仍是一个挑战。为特定任务微调MLLMs常常会导致模型先前知识领域的性能下降,已知为'灾难性遗忘'。虽然该问题在持续学习(CL)领域已广泛研究,但为MLLMs带来了新的挑战。本综述是该领域首篇综述,概述了440篇相关研究论文。综述分为四部分:首先讨论MLLMs的最新研究,涵盖模型创新、基准测试和各领域应用;其次将最新持续学习研究分为三部分:非大语言模型单模态持续学习(Non-LLM Unimodal CL)、非大语言模型多模态持续学习(Non-LLM Multimodal CL)以及大语言模型的持续学习(CL in LLM)。第三部分详细分析了MLLM持续学习研究的当前进展,包括基准评估、架构创新以及理论与经验研究总结。最后,本文讨论了MLLM持续学习的挑战和未来方向,旨在激发该领域的后续研究与发展。本综述连接了持续学习领域的基础概念、理论见解、方法创新和实际应用,为全面理解该领域的研究进展和挑战提供了框架,旨在激励研究者并推动相关技术的发展。
引用
@article{arxiv.2503.01886,
title = {Advanced Deep Learning Techniques for Analyzing Earnings Call Transcripts: Methodologies and Applications},
author = {Umair Zakir and Evan Daykin and Amssatou Diagne and Jacob Faile},
journal= {arXiv preprint arXiv:2503.01886},
year = {2026}
}