面向开放文本世界的少样本任务迁移的 Mixture-of-Experts 方法
计算与语言
2024-05-13 v1 人工智能
摘要
开放式世界是指没有预设目标或环境奖励信号的世界。因此，智能体必须知道如何执行大量任务。然而，当新任务呈现给智能体时，我们期望它能够复用一些先前任务的知识来快速学习该新任务。我们引入了一种新技术，方法是将不同先验已知任务的策略组合成一个 Mixture-of-Experts 模型，同时在冻结和非冻结专家之间引入注意力机制。模型学习何时在恰当时机关注冻结的任务特定专家，并学习处理新情形的新专家。我们在开放式基于文本的环境中工作，智能体需要扮演不同类型的角色，并快速学习与新角色类型相关的行为。我们展示了该代理在零样本设置下获得更多奖励，并在少样本学习设置中以更大的样本效率发现这些奖励。
引用
@article{arxiv.2405.06059,
title = {A Mixture-of-Experts Approach to Few-Shot Task Transfer in Open-Ended Text Worlds},
author = {Christopher Z. Cui and Xiangyu Peng and Mark O. Riedl},
journal= {arXiv preprint arXiv:2405.06059},
year = {2024}
}