一种面向大规模多任务动态ML系统的持续开发方法学
机器学习
2022-11-08 v3 人工智能
计算机视觉与模式识别
神经与进化计算
摘要
传统机器学习（ML）方法学要求将开发与实验过程割裂为互不相连的迭代，其反馈用于指导设计或调优选择。该方法学存在多项效率与可扩展性劣势，例如导致将大量资源耗费于创建对最终解无贡献的多个试验模型。本工作基于这样一种直觉：将ML模型定义为模块化且可扩展的制品，可引入一种新颖的ML开发方法学，使多个设计与评估迭代集成到单一无界智能系统的持续 enrichment 中。我们定义了一种将动态多任务ML模型生成为扩展与泛化序列的新方法。我们首先使用标准ML经验评估方法学分析所提方法的能力。最后，我们提出一种新颖的持续开发方法学，可在分析所提方法扩展属性的同时动态扩展既有的多任务大规模ML系统。这生成了一个能联合求解124个图像分类任务、以更小的模型规模与计算成本实现最先进质量的ML模型。
引用
@article{arxiv.2209.07326,
title = {A Continual Development Methodology for Large-scale Multitask Dynamic ML Systems},
author = {Andrea Gesmundo},
journal= {arXiv preprint arXiv:2209.07326},
year = {2022}
}
备注
arXiv admin note: text overlap with arXiv:2205.12755