REGENT: 一种能够在新环境中进行上下文内操作的检索增强通用智能体
人工智能
2025-02-25 v2
摘要
构建能够快速适应新环境的通用智能体，是将 AI 部署到数字世界和现实世界中的关键挑战。扩展当前的智能体架构是否是构建通用智能体最有效的方式？我们提出了一种新方法，即在相对较小的数据集上预训练相对较小的策略，并通过上下文内学习（无需任何微调）将其适应于未见过的环境。我们的关键思想是检索为快速适应提供了强大的偏置。事实上，我们证明即使是一个简单的基于检索的 1-最近邻智能体也能为当今最先进的通用智能体提供一个令人惊讶的强大基线。基于此，我们构建了一个半参数化智能体 REGENT，它在查询序列和检索到的邻居序列上训练基于 transformer 的策略。REGENT 可以通过检索增强和上下文内学习泛化到未见过的机器人和游戏环境，以最多 3 倍的参数减少和最多一个数量级的预训练数据点显著优于当今最先进的通用智能体。网站：https://kaustubhsridhar.github.io/regent-research
引用
@article{arxiv.2412.04759,
title = {REGENT: A Retrieval-Augmented Generalist Agent That Can Act In-Context in New Environments},
author = {Kaustubh Sridhar and Souradeep Dutta and Dinesh Jayaraman and Insup Lee},
journal= {arXiv preprint arXiv:2412.04759},
year = {2025}
}
备注
ICLR 2025 Oral, NeurIPS 2024 Workshops on Adaptive Foundation Models (AFM) and Open World Agents (OWA), 30 pages