SWITCH：用于评估自适应机器学习使能系统的范例

解决机器学习使能系统 (MLS) 中的运行时不确定性对于维持服务质量 (QoS) 至关重要。机器学习模型均衡器是一种通过促进动态 ML 模型切换来解决这些不确定性的概念，在改善 MLS 的 QoS 方面展现出前景。基于这一概念，本文介绍了 SWITCH，这是一个通过运行时动态模型切换来增强此类系统自适应能力的范例。SWITCH 被设计为一个综合性 Web 服务，可满足广泛的 ML 场景需求，并通过目标检测用例演示了其实现。SWITCH 为研究人员提供了一个灵活的平台，以应用和评估其 ML 模型切换策略，旨在提升 MLS 的 QoS。SWITCH 具备高级输入处理、实时数据处理和针对自适应指标的日志记录功能，并辅以交互式实时仪表板以增强系统可观测性。本文详细介绍了 SWITCH 的架构、通过 ML 模型切换实现的自适应策略，以及通过案例研究进行的实证验证，展示了其改善 MLS 中 QoS 的潜力。通过提供一种探索 ML 系统自适应行为的实践方法，SWITCH 为 SEAMS 社区贡献了一个有价值的工具，用于研究 MLS 的自适应机制及其实际应用。