面向决策基础模型的自监督预训练：形式化、流程与挑战
机器学习
2024-01-08 v2 人工智能
摘要
决策是一个动态过程，需要感知、记忆和推理来做出选择并找到最优策略。传统的决策方法在样本效率和泛化方面存在不足，而大规模自监督预训练已在语言和视觉领域通过微调或少样本学习实现了快速适应。因此，我们主张将从通用大规模自监督预训练中获得的知识整合到下游决策问题中。我们提出了预训练-然后-适应（Pretrain-Then-Adapt）流程，并调查了最近在数据收集、预训练目标和适应策略方面的工作，用于决策预训练和下游推理。最后，我们确定了借助通用且灵活的自监督预训练开发决策基础模型的关键挑战和未来方向。
引用
@article{arxiv.2401.00031,
title = {Self-supervised Pretraining for Decision Foundation Model: Formulation, Pipeline and Challenges},
author = {Xiaoqian Liu and Jianbin Jiao and Junge Zhang},
journal= {arXiv preprint arXiv:2401.00031},
year = {2024}
}