CarbonCP：面向可持续边缘智能的碳感知DNN分区与保形预测
网络与互联网体系结构
2024-04-29 v1 性能
摘要
本文提出了一种解决方案，旨在减少端到端边缘计算系统的碳排放，包括电池供电的边缘设备和服务器上的计算，以及它们之间的通信。我们设计并实现了CarbonCP，一个基于保形预测理论的上下文自适应、碳感知和不确定性感知的AI推理框架，通过在不同系统处理上下文和碳强度下进行DNN分区，平衡运营碳排放、端到端延迟和边缘设备的电池消耗。我们的实验结果表明，CarbonCP能够有效大幅减少运营碳排放，最高达58.8%，同时保持关键的用户中心性能指标，错误率仅为9.9%。
引用
@article{arxiv.2404.16970,
title = {CarbonCP: Carbon-Aware DNN Partitioning with Conformal Prediction for Sustainable Edge Intelligence},
author = {Hongyu Ke and Wanxin Jin and Haoxin Wang},
journal= {arXiv preprint arXiv:2404.16970},
year = {2024}
}