借助集体思维、虚拟化MLOps、MLPerf、集体知识游乐场和可复现优化竞赛，实现更高效、更具成本效益的AI/ML系统
机器学习
2024-12-03 v2 新兴技术
性能
摘要
本白皮书介绍了我的教育社区倡议，旨在学习如何跨不同模型、数据集、软件和硬件，以最高效和最具成本效益的方式运行AI、ML及其他新兴工作负载。该项目利用了集体思维(CM)、虚拟化MLOps和DevOps(CM4MLOps)、MLPerf基准测试以及集体知识游乐场(CK)，这些工具是我与社区和MLCommons合作开发的。我创建了集体思维，作为一个轻量级、可移植的Python包，具有最小依赖、统一的CLI和Python API，以帮助研究人员和工程师自动化重复、繁琐且耗时的任务。我还将CM设计为一个分布式框架，通过CM4*仓库由社区持续增强，这些仓库作为组织和自动化及工件各种集合的统一接口。例如，CM4MLOps仓库包含许多自动化（也称为CM脚本），以简化跨不断演进的模型、数据和系统构建、运行、基准测试和优化AI、ML及其他工作流程的过程。我将CK、CM和CM4MLOps捐赠给了MLCommons，以促进学术界和工业界之间的合作，学习如何共同设计更高效、更具成本效益的AI系统，同时捕获和编码集体思维中的知识，保护知识产权，实现可移植技能，并加速最先进研究向生产的转化。我的最终目标是与社区合作，完成我长达二十年的旅程，即创建能够根据用户需求和约束（如成本、延迟、吞吐量、准确性、功耗、大小和其他关键因素）自动学习如何以最高效和最具成本效益的方式运行任何工作负载的自优化软硬件。
引用
@article{arxiv.2406.16791,
title = {Enabling more efficient and cost-effective AI/ML systems with Collective Mind, virtualized MLOps, MLPerf, Collective Knowledge Playground and reproducible optimization tournaments},
author = {Grigori Fursin},
journal= {arXiv preprint arXiv:2406.16791},
year = {2024}
}