多类问题中的学习以帮助

在资源受限的设备上部署复杂的机器学习模型具有挑战性，这些设备的计算功率、内存和模型可重训练性有限。为解决这些限制，一种混合系统可以通过增强本地模型与服务器端模型来实现，其中样本被选择性推迟由rejector决定，然后发送到服务器处理。混合系统在高效利用计算资源的同时，最小化与服务器使用相关的开销。最近提出的学习以帮助（L2H）模型训练一个固定的本地（客户端）模型，不同于学习推迟（L2D）框架，该框架训练客户端以适应固定的专家服务器。在L2D和L2H中，训练包括学习客户端上的rejector以确定何时查询服务器。本文将L2H模型从二分类问题扩展到多分类问题，并展示其在访问受限（因成本、可用性或政策）的实际场景中的适用性。我们推导了一个在L2H模型下对应0-1损失且满足贝叶斯规则的可微分、凸且一致的阶段切换代理损失函数。实验表明，我们提出的方法为资源受限环境中的多分类问题提供了高效且实用的解决方案。