学习以协助:训练模型辅助旧式设备
机器学习
2024-09-25 v1
摘要
在物理设备硬件上实现的机器学习模型可能会部署很长时间。设备的计算能力可能有限,并且相对于最新的改进变得过时。由于 ML 模型的尺寸,卸载部分计算(例如卸载到边缘云)可以帮助此类旧式设备。我们将此问题置于带弃权的学习(LWA)框架中,其中必须训练专家(边缘)以协助客户端(设备)。先前关于 LWA 的工作假设边缘是预言机或人类专家来训练客户端。在本工作中,我们形式化了为固定(旧式)客户端训练专家的逆向问题。与 LWA 中一样,客户端使用拒绝规则来决定何时将推理卸载给专家(需付出代价)。我们找到了贝叶斯最优规则,证明了一个泛化界,并找到了一致的替代损失函数。实证结果表明,我们的框架优于基于置信度的拒绝规则。
引用
@article{arxiv.2409.16253,
title = {Learning To Help: Training Models to Assist Legacy Devices},
author = {Yu Wu and Anand Sarwate},
journal= {arXiv preprint arXiv:2409.16253},
year = {2024}
}
备注
12 pages, 4 figures