面向在线代码专业化的系统
数值分析
2025-01-22 v1 数值分析
摘要
针对服务特定工作负载和运行平台的低级系统进行专业化往往能显著提升性能。然而，由于三个相互叠加的挑战，系统专业化往往难以实现：i) 实现最佳性能需要深入的编译时修改；ii) 针对最佳性能的最佳专业化组合难以事先预测；iii) 工作负载和平台细节常在运行时发生变化。因此，实际情况下，系统专业化的收益难以实现。为此，我们主张一种根本不同的面向低级系统性能关键代码的思路：设计并实现具备运行时代码专业化能力的系统。我们利用即时编译技术（just-in-time compilation）根据开发人员指定的专业化点，在系统运行时动态更改系统代码。JIT 运行时会自动尝试 various 专业化选择并衡量其对系统性能（如请求延迟或吞吐量）的影响，以指导搜索。通过我们早期的原型系统 Iridescent，证明了在线专业化（i）即使针对低级系统代码（如网络栈）也可实现；（ii）无需复杂成本模型即可提升系统性能；（iii）开发工作量低，尤其相较于手动探索方式。我们对未来在线系统代码专业化所启用的机遇作了总结。
关键词
引用
@article{arxiv.2501.11365,
title = {Optimal properties of tensor product of B-bases},
author = {Jorge Delgado and Héctor Orera and Juan Manuel Peña},
journal= {arXiv preprint arXiv:2501.11365},
year = {2025}
}