LLaPipe：LLM 引导的强化学习用于自动化数据准备管道构建
数据库
2025-07-21 v1 机器学习
摘要
自动化数据准备是实现机器学习民主化的关键环节，但现有基于强化学习 (RL) 的方法在广阔的预处理管道空间中探索效率低下。我们提出 LLaPipe，一种新型框架，通过将大型语言模型 (LLM) 集成为智能策略顾问来缓解这一探索瓶颈。不同于依赖统计特征和盲目试验的传统方法，LLaPipe 利用 LLM 的语义理解能力，提供情境相关的探索引导。我们的框架引入三项关键创新：(1) LLM 策略顾问分析数据集语义和管道历史，建议具有前景的预处理操作；(2) 经验蒸馏机制从过去管道中挖掘成功模式，并将其知识传递以引导未来探索；(3) 自适应顾问触发策略 (Advisor⁺) 动态确定何时进行 LLM 干预，在探索效果与计算成本之间取得平衡。通过在 18 个跨域多样化数据集上的广泛实验，我们展示，LLaPipe 在管道质量上实现最高可达 22.4% 的提升，收敛速度快 2.3 倍，相较于最先进的基于 RL 的方法；同时通过选择性 LLM 使用（仅占总探索步骤的 19.0%）保持计算效率。
引用
@article{arxiv.2507.13712,
title = {LLaPipe: LLM-Guided Reinforcement Learning for Automated Data Preparation Pipeline Construction},
author = {Jing Chang and Chang Liu and Jinbin Huang and Rui Mao and Jianbin Qin},
journal= {arXiv preprint arXiv:2507.13712},
year = {2025}
}