Memento No More：通过内化提示教练AI智能体掌握多个任务
机器学习
2025-05-29 v2
摘要
随着人工智能（AI）智能体通用能力的不断提升，其通过经验掌握多个复杂任务的能力仍是关键挑战。当前的LLM智能体，特别是基于专有语言模型的智能体，通常依赖提示词来整合关于目标任务的知识。这种方法不允许智能体内化这些信息，反而依赖不断扩大的提示词以维持其在多样化场景中的功能。这类似于一个记忆异常的个体使用的便签系统，无法形成新记忆。本文提出了一种 novel 方法，通过内化提示训练AI智能体，以无需笨重的便签系统或高质量示范数据即可掌握多个任务。我们的 approach 采用迭代过程：智能体收集新的经验，接收来自人类的提示反馈，并通过 context distillation 训练程序将其整合到权重中。我们通过在基于Llama-3的智能体中实现该方法，证明其有效性：仅经过几轮反馈，该智能体在需要正确排序信息检索、工具使用和问答等任务集中表现优于GPT-4o和DeepSeek-V3等先进模型。
引用
@article{arxiv.2502.01562,
title = {Memento No More: Coaching AI Agents to Master Multiple Tasks via Hints Internalization},
author = {Minttu Alakuijala and Ya Gao and Georgy Ananov and Samuel Kaski and Pekka Marttinen and Alexander Ilin and Harri Valpola},
journal= {arXiv preprint arXiv:2502.01562},
year = {2025}
}