Resonance:在实时通信中以情境感知模型替代软件常量
人工智能
2020-12-07 v1 机器学习
网络与互联网体系结构
软件工程
摘要
大型软件系统会调整数百个“常量”以优化其运行时性能。这些取值通常通过直觉、实验室测试或 A/B 测试得出。由于最佳取值依赖于运行时上下文,“一刀切”的方法往往并非最优。在本文中,我们提供了一种实验性方法,用学习到的上下文函数替代 Skype(一款广泛使用的实时通信(RTC)应用)中的常量。我们提出了 Resonance,一个基于情境多臂老虎机(contextual bandits, CB)的系统。我们描述了三项真实世界实验的经验:将其应用于 Skype 的音频、视频和传输组件。我们揭示了一个在基于封装原则编写的大型软件系统中执行机器学习(ML)推理的独特且实际的挑战。最后,我们开源了 FeatureBroker,一个用于降低在此类开发环境中采用 ML 模型阻力的库。
引用
@article{arxiv.2011.12715,
title = {Resonance: Replacing Software Constants with Context-Aware Models in Real-time Communication},
author = {Jayant Gupchup and Ashkan Aazami and Yaran Fan and Senja Filipi and Tom Finley and Scott Inglis and Marcus Asteborg and Luke Caroll and Rajan Chari and Markus Cozowicz and Vishak Gopal and Vinod Prakash and Sasikanth Bendapudi and Jack Gerrits and Eric Lau and Huazhou Liu and Marco Rossi and Dima Slobodianyk and Dmitri Birjukov and Matty Cooper and Nilesh Javar and Dmitriy Perednya and Sriram Srinivasan and John Langford and Ross Cutler and Johannes Gehrke},
journal= {arXiv preprint arXiv:2011.12715},
year = {2020}
}
备注
Workshop on ML for Systems at NeurIPS 2020, Accepted