TF2AIF：面向云边协同环境加速 AI 模型开发与部署的工具
机器学习
2024-07-24 v1
摘要
5G/6G 演进依赖连接计算技术和高度异构的集群，需专业编码才能高效利用硬件加速器。本文提出一种自定义工具，用于生成针对特定 AI 函数输入的多个软件版本（例如基于 Python TensorFlow 的高级语言），以适配多种 diverse HW+SW 平台。TF2AIF 整合不同工具链，创建大量容器化方案，使系统编排器能够在云边协同环境中的任意节点上部署所需功能，从而在任何情况下充分利用底层硬件的性能和能源优势。TF2AIF 填补当今生态系统中的空白，降低用户所需时间和专业知识，促进资源管理或自动化操作的研究。
引用
@article{arxiv.2404.13715,
title = {TF2AIF: Facilitating development and deployment of accelerated AI models on the cloud-edge continuum},
author = {Aimilios Leftheriotis and Achilleas Tzenetopoulos and George Lentaris and Dimitrios Soudris and Georgios Theodoridis},
journal= {arXiv preprint arXiv:2404.13715},
year = {2024}
}
备注
to be published in EUCNC & 6G Summit 2024