借助自然语言和SageCopilot迈向自动化数据科学：实践与经验教训

尽管NL2SQL领域在将自然语言指令转化为可执行SQL脚本以进行数据查询和处理方面取得了重大进展，但在更广泛的数据科学工作流中实现完全自动化——涵盖数据查询、分析、可视化和报告——仍然是一个复杂的挑战。本研究引入了SageCopilot，一个先进的、工业级的系统，通过整合大型语言模型（LLMs）、自主代理和语言用户界面来自动化数据科学工作流。具体而言，SageCopilot采用两阶段设计：一个在线组件通过上下文学习将用户的输入细化为可执行脚本并运行脚本进行结果报告和可视化，以及一个离线组件为在线阶段所需的上下文学习准备演示。诸如思维链和提示调优等一系列热门策略已被用于增强SageCopilot以提升性能。通过严格的测试和与基于提示的解决方案的比较分析，SageCopilot已在生成或执行脚本以及提供可视化结果方面实现了优越的端到端性能，并以真实数据集为基础得到了验证。我们深入的消融研究突出了SageCopilot中各种组件和策略对数据科学端到端正确性的贡献。