基于联接的 AI/ML 推断的声明性分解 InferF

实际的人工智能/机器学习工作流程常常对来自多个数据集的联接特征向量应用推断计算。为避免由联接输出中重复数据记录导致的冗余 AI/ML 计算，分解 ML 已提出将 ML 计算分解为在每个规范化数据集上执行的子计算。然而，分解 ML 对如何影响 AI/ML 推断 over 多路联接仍有不足的讨论。为此，我们提出一种新型声明性 InferF 系统，聚焦于代表为由多路联接表示的任意推断工作流程的分解。我们形式化了问题，以灵活地将部分分解计算下推到联接树中的合格节点，以最小化整体推断计算和联接成本。我们提出了两种算法来解决该问题：（1）基于每个节点的成本函数的贪婪算法，该函数估计若将子集分解计算下推到节点将对整体延迟产生的影响；（2）用于迭代枚举和评估有前景的分解计划的遗传算法。我们在 Meta 的开源数据库引擎 Velox 上实现 InferF，在真实世界的数据集上进行评估，观察到最高可达 11.3 倍的加速，并系统性地概述了决定分解 ML 是否能为 AI/ML 推断工作流程带来益处的关键因素。