OmniForce：以人为中心、大模型赋能与云边协同的 AutoML 系统
机器学习
2023-07-11 v2 人工智能
摘要
自动化机器学习（AutoML）旨在以最小的人力构建 ML 模型。尽管在 AutoML 领域已进行了大量研究，旨在构建人工智能（AI）应用时将人排除在循环之外，但鲜有文献关注 AutoML 如何在开放环境场景中良好工作，例如大模型的训练与更新过程、工业供应链或工业元宇宙，在这些场景中人们在搜索过程中常面临开环问题：必须持续收集数据、更新数据与模型、满足开发与部署环境的要求、支持海量设备、修改评估指标等。用纯数据驱动方法解决开放环境问题需要大量数据、计算资源以及专职数据工程师的投入，使得当前的 AutoML 系统与平台效率低下且计算上难以处理。人机交互是解决开放环境 AI 问题的一种切实可行的方式。在本文中，我们介绍 OmniForce，一个以人为中心的 AutoML（HAML）系统，它同时产生人类辅助 ML 与 ML 辅助人类的技术，以将 AutoML 系统付诸实践并在开放环境场景中构建自适应 AI。具体而言，我们从 ML 版本管理、流水线驱动的开发与部署协作、灵活的搜索策略框架，以及广泛提供且众包的应用算法（包括大模型）方面介绍 OmniForce。此外，由 OmniForce 构建的（大）模型可在几分钟内自动转为远程服务；该过程被称为模型即服务（MaaS）。在多个搜索空间和真实用例中获得的实验结果证明了 OmniForce 的有效性与高效性。
引用
@article{arxiv.2303.00501,
title = {OmniForce: On Human-Centered, Large Model Empowered and Cloud-Edge Collaborative AutoML System},
author = {Chao Xue and Wei Liu and Shuai Xie and Zhenfang Wang and Jiaxing Li and Xuyang Peng and Liang Ding and Shanshan Zhao and Qiong Cao and Yibo Yang and Fengxiang He and Bohua Cai and Rongcheng Bian and Yiyan Zhao and Heliang Zheng and Xiangyang Liu and Dongkai Liu and Daqing Liu and Li Shen and Chang Li and Shijin Zhang and Yukang Zhang and Guanpu Chen and Shixiang Chen and Yibing Zhan and Jing Zhang and Chaoyue Wang and Dacheng Tao},
journal= {arXiv preprint arXiv:2303.00501},
year = {2023}
}