中文

面向CPS-IoT的基础模型:机遇与挑战

机器学习 2025-02-06 v2 人工智能 系统与控制 系统与控制

摘要

机器学习(ML)的方法已深刻改变了针对Cyber-Physical Systems(CPS)和Internet of Things(IoT)中感知-认知-通信-行动循环的实现方式,取代了基于机械模型和基本统计模型的做法。然而,第一代ML方法依赖于带有注释数据的监督学习,以创建特定于任务的模型,在面向实际世界CPS-IoT系统所特有的多样化传感器模态、部署配置、应用任务和运行动态时,面临显著的扩展限制。任务无关的基础模型(FMs),包括多模态大型语言模型(LLM),在自然语言、计算机视觉和人类语音等类似领域中克服类似挑战的成功,为在CPS-IoT分析管道中将FMs和LLMs作为灵活构建块的热情激发不断增长,并探索不断增长。尽管如此,当前FMs和LLMs在CPS-IoT领域的能力与其必须满足的要求之间仍存在显著差距。为了弥合这一差距,本文通过对现状的详尽检视以及我们的研究(后者在多个维度上超出现状)进行分析和表征。基于我们的分析和研究结果,我们确定了必须满足的关键需求,以便在CPS-IoT领域建立特定于FMs和LLMs。我们还提出了由CPS-IoT研究人员合作开发关键社区资源的行动计划,以便将FMs和LLMs确立为下一代CPS-IoT系统的基础工具。

关键词

引用

@article{arxiv.2501.16368,
  title  = {Foundation Models for CPS-IoT: Opportunities and Challenges},
  author = {Ozan Baris and Yizhuo Chen and Gaofeng Dong and Liying Han and Tomoyoshi Kimura and Pengrui Quan and Ruijie Wang and Tianchen Wang and Tarek Abdelzaher and Mario Bergés and Paul Pu Liang and Mani Srivastava},
  journal= {arXiv preprint arXiv:2501.16368},
  year   = {2025}
}