中文

UniAutoML:面向统一判别式与生成式 AutoML 的以人类为中心的大型语言模型框架

计算与语言 2024-10-21 v2 人工智能 人机交互 机器学习

摘要

自动化机器学习(AutoML)已简化了诸如数据预处理、模型选择和超参数搜索等复杂的机器学习流程。然而,传统的 AutoML 框架仅聚焦于判别式任务,在处理生成式模型的 AutoML 时显得不足。此外,这些框架在训练过程中缺乏可解释性和用户参与,主要源于缺乏以人类为中心的设计。这导致最终决策的透明度不足,用户控制受限,潜在削弱 AutoML 方法的信任和采纳。为此,我们引入了 UniAutoML——一个以大型语言模型(LLM)为基础的、以人类为中心的 AutoML 框架,统一支持判别式(如用于分类或回归任务的 Transformer 和 CNN)和生成式任务(如微调扩散模型或 LLM)。UniAutoML 的以人类为中心设计创新性地引入了对话式用户界面(CUI),促进自然语言交互,为用户提供实时指导、反馈和进度更新,以提升可解释性。该设计在 AutoML 训练过程中增强了透明度和用户控制,使用户能够无缝中断或修改正在训练的模型。为缓解 LLM 生成内容潜在风险,UniAutoML 集成了安全警戒线,对输入进行过滤并对输出进行审查。我们通过在八个多样化数据集上的实验以及针对 25 名用户的调查,评估了 UniAutoML 的性能和可用性,结果表明 UniAutoML 不仅提升了性能,还改善了用户控制和信任水平。我们的以人类为中心的设计弥合了 AutoML 能力与用户理解之间的鸿沟,使机器学习技术更易于广泛接受。

关键词

引用

@article{arxiv.2410.12841,
  title  = {UniAutoML: A Human-Centered Framework for Unified Discriminative and Generative AutoML with Large Language Models},
  author = {Jiayi Guo and Zan Chen and Yingrui Ji and Liyun Zhang and Daqin Luo and Zhigang Li and Yiqin Shen},
  journal= {arXiv preprint arXiv:2410.12841},
  year   = {2024}
}