METEOR：大型语言模型从引导到自我生长的进化之旅
机器学习
2024-12-02 v2 人工智能
计算与语言
摘要
模型进化使得能够从反馈中学习以提炼经验并更新技能，将模型从没有领域知识转变为领域专家。然而，目前尚无统一且有效的方法来指导这一进化过程。为了填补这一空白，我们提出了 Meteor 方法，该方法包含三个训练阶段：弱到强数据蒸馏、迭代训练和自我进化策略。每个阶段都最大化模型的固有领域能力，使其能够自主提炼领域知识并提升性能。实验表明，我们的方法在特定领域任务中显著提高了准确性、完整性、相关性、连贯性和可靠性。
引用
@article{arxiv.2411.11933,
title = {METEOR: Evolutionary Journey of Large Language Models from Guidance to Self-Growth},
author = {Jiawei Li and Xiaoang Xu and Yang Gao},
journal= {arXiv preprint arXiv:2411.11933},
year = {2024}
}
备注
Our code can be found at https://github.com/DIRECT-BIT/METEOR