世界模型：安全视角
人工智能
2024-11-13 v1
摘要
随着大语言模型 (LLM) 的普及，世界模型 (WM) 的概念近来在 AI 研究界引起极大关注，特别是在 AI 智能体背景下。它可以说正演变为构建 AI 智能体系统的重要基础。WM 旨在帮助智能体预测环境状态的未来演化，或帮助智能体填补缺失信息，从而规划行动并安全行事。WM 的安全属性在其于关键应用中的有效使用中起关键作用。本文基于全面调查和预设应用领域，从可信度和安全角度回顾并分析当前 WM 技术最新进展的影响。我们对最先进 WM 进行深入分析，推导技术研究挑战及其影响，以呼吁研究界协作提升 WM 的安全性和可信度。
引用
@article{arxiv.2411.07690,
title = {World Models: The Safety Perspective},
author = {Zifan Zeng and Chongzhe Zhang and Feng Liu and Joseph Sifakis and Qunli Zhang and Shiming Liu and Peng Wang},
journal= {arXiv preprint arXiv:2411.07690},
year = {2024}
}
备注
8 pages, 3 figures, accepted at the International Workshop on Dependability Modeling and Design (WDMD) during the IEEE International Symposium on Software Reliability Engineering (ISSRE)