KModels：解锁商业应用的人工智能
软件工程
2024-09-11 v1 人工智能
摘要
随着人工智能(AI)的快速发展，企业嵌入AI能力的需求日益增长。然而，在AI快速进步与AI嵌入商业环境的速度之间存在显著鸿沟。将表现良好的实验室模型部署到生产环境中，尤其是本地环境，往往需要专业知识，并对模型管理施加沉重负担， creating significant barriers to implementing AI models in real-world applications. KModels利用 proven libraries and platforms (Kubeflow Pipelines, KServe) to streamline AI adoption by supporting both AI developers and consumers. 它允许模型开发者专注于模型开发并将模型作为可移动单元(Templates)共享，抽象掉复杂的生产部署问题。KModels使AI消费者无需专职数据科学家即可工作，模板封装了大多数数据科学考虑，同时提供面向商业的控制。本文介绍KModels的架构及其关键决策。我们概述KModels的主要组件及其接口。此外，我们解释KModels特别适合本地部署，也可用于云环境。通过在现有工作单管理系统中成功部署三个AI模型，展示了KModels的有效性。这三个模型在客户数据中心运行，训练于本地数据，无需数据科学家介入。一个模型将工作单故障代码指定的准确率从46%提高到83%，展示了可及且本地化AI解决方案的重大效益。
引用
@article{arxiv.2409.05919,
title = {KModels: Unlocking AI for Business Applications},
author = {Roy Abitbol and Eyal Cohen and Muhammad Kanaan and Bhavna Agrawal and Yingjie Li and Anuradha Bhamidipaty and Erez Bilgory},
journal= {arXiv preprint arXiv:2409.05919},
year = {2024}
}