面向开放世界智能体的非熟悉事件识别与快速响应要求
人工智能
2025-06-17 v2
摘要
无论过去的学习如何,开放世界中的智能体都会面对超出先前经验、现有模型或策略范围的非熟悉事件。此外,智能体有时会缺乏相关知识和/或足够的时间来评估情况并评估响应选项。如何对超出原设计范围的情境作出理性响应?如何在识别此类情境方面足够快速且可靠,以确定合理的、自适应的行动方案?我们确定了所需关键特征,综述了当前技术,并概述了一种新颖的方法,该方法结合了受人类认知启发的领域通用元知识和元推理。该方法有望提供快速、自适应的对非熟悉情境的响应,更全面地满足开放世界通用智能体所需的性能特征。
引用
@article{arxiv.2504.12497,
title = {Requirements for Recognition and Rapid Response to Unfamiliar Events Outside of Agent Design Scope},
author = {Robert E. Wray and Steven J. Jones and John E. Laird},
journal= {arXiv preprint arXiv:2504.12497},
year = {2025}
}
备注
10 pages + references, 3 figures. Accepted for AGI25 conference (oral presentation)