FT-Dojo：面向自主LLM微调的语言智能体框架
人工智能
2026-05-21 v2 机器学习
摘要
为垂直领域微调大型语言模型仍需大量人力工作，包括数据 curated、训练配置和模型行为的迭代诊断。尽管自主机器学习和语言智能体日益受到关注，但端到端的LLM微调尚未系统性地作为交互式智能体任务进行研究。我们引入FT-Dojo，这是一个面向自主LLM微调的交互式基准环境，涵盖13项5个领域的任务。与新建静态数据集不同，FT-Dojo标准化了任务接口、共享原始数据存储库、沙盒化执行环境、结构化反馈协议以及保留的评估程序。我们进一步开发了FT-Agent，一种面向微调的自主框架，利用结构化迭代计划、快速失效验证和多级反馈分析来细化数据和训练策略。实验表明，FT-Agent提供了强有力的初始基准，在13项任务中取得最佳成绩（其中10项），并通过对前沿智能体、开源规划骨架和多运行统计的受控比较支持主要发现。案例研究表明，智能体可以通过累积性学习从失败中恢复，但仍暴露了因果诊断和长期计划方面的局限性。实现代码已发布于 https://github.com/microsoft/rd-agent。
引用
@article{arxiv.2603.01712,
title = {FT-Dojo: Towards Autonomous LLM Fine-Tuning with Language Agents},
author = {Qizheng Li and Yifei Zhang and Xiao Yang and Xu Yang and Zhuo Wang and Weiqing Liu and Jiang Bian},
journal= {arXiv preprint arXiv:2603.01712},
year = {2026}
}
备注
26 pages, 6 figures, 11 tables