Perona:面向资源高效大数据分析的鲁棒基础设施指纹识别
分布式、并行与集群计算
2023-01-31 v2 机器学习
摘要
为大数据分析应用选择良好的资源配置具有挑战性,尤其在云环境中。由于不当决策会降低性能并增加成本,自动化方法备受青睐。现有多数自动化方法要么基于先前工作负载执行构建性能模型,要么进行迭代式资源配置剖析直至找到近优解。在此过程中,它们仅对底层基础设施获得隐式理解,难以迁移至其他基础设施,因而剖析与建模的见解无法超越非常特定的情境而持续生效。我们提出 Perona,一种用于大数据分析场景下鲁棒基础设施指纹识别的新方法。Perona 对目标资源采用通用的基准测试工具集合与配置,从而使所得基准指标可直接比较并支持排序。通过学习输入指标向量的低维表示,不显著的基准指标被丢弃;先前的基准执行也被纳入考量以实现上下文感知,从而能够检测资源退化。我们在自有实验所采集数据以及相关资源配置优化工作中评估了该方法,表明 Perona 能以紧凑方式捕获基准运行的特征并生成可直接使用的表示。
引用
@article{arxiv.2211.08227,
title = {Perona: Robust Infrastructure Fingerprinting for Resource-Efficient Big Data Analytics},
author = {Dominik Scheinert and Soeren Becker and Jonathan Bader and Lauritz Thamsen and Jonathan Will and Odej Kao},
journal= {arXiv preprint arXiv:2211.08227},
year = {2023}
}
备注
8 pages, 5 figures, 3 tables