MUSE：支持无缝模型更新的多租户模型服务
机器学习
2026-02-25 v2 分布式、并行与集群计算
摘要
在二分类系统中,决策阈值将模型得分转化为行动。合适阈值的选择依赖于底层模型得分的具体分布,也依赖于使用该模型的每个客户的特定业务决策。然而,重新训练模型不可避免地会改变得分分布,从而使现有阈值失效。在多租户 Score-as-a-Service 环境中,决策边界位于客户管理的基础设施之中,这造成了严重的瓶颈:重新校准需要在数百个客户之间协调阈值更新,耗费大量人力工时,并导致模型停滞不前。本文引入 MUSE,一种通过将模型得分与客户决策边界解耦来实现无缝模型更新的模型服务框架。MUSE 专为多租户设计,通过基于动态意图的路由共享模型来优化基础设施复用,并结合两级得分变换,将模型输出映射到一个稳定的参考分布。MUSE 已由 Feedzai 大规模部署,每秒处理超过一千个事件,在过去 12 个月内处理了超过 550 亿个事件,跨数十个租户运行,同时保持高可用性与低延迟保证。通过将模型交付周期从数周缩短到数分钟,MUSE 提升了模型对攻击演变的韧性,节省了数百万美元的欺诈损失与运营成本。
引用
@article{arxiv.2602.11776,
title = {MUSE: Multi-Tenant Model Serving With Seamless Model Updates},
author = {Cláudio Correia and Alberto E. A. Ferreira and Lucas Martins and Miguel P. Bento and Sofia Guerreiro and Ricardo Ribeiro Pereira and Ana Sofia Gomes and Jacopo Bono and Hugo Ferreira and Pedro Bizarro},
journal= {arXiv preprint arXiv:2602.11776},
year = {2026}
}
备注
Currently under review for KDD 2026 (Applied Data Science)