Latenrality: 面向二进制分类器的模型无关延迟与能耗预测
机器学习
2024-12-30 v1 人工智能
摘要
机器学习系统日益推动跨学科领域和产业的创新,但推理过程中的计算开销挑战限制了其可扩展性和可持续性。负责任的人工智能管控措施(RAI guardrails),对于确保公平性、透明性和隐私,进一步加剧了这些计算需求。本文针对文献中存在的关键空白,尤其是缺乏面向延迟和能耗预测的通用技术、分类器之间的跨比较有限,以及负责任AI管控措施对推理性能影响未被量化。本研究运用理论构建方法学(Theory Construction Methodology),构建了一个面向二进制分类模型推理阶段的延迟和能耗预测的模型无关理论框架。该框架将分类器特征、数据集属性以及RAI管控措施综合为一个统一的分析工具。推导出两个预测方程,捕捉这些因素之间的相互作用,同时保持跨不同分类器的普适性。该框架为设计高效、负责任的机器学习系统提供了基础性见解,使研究人员能够对推理性能进行基准测试和优化,帮助实践者部署可扩展的解决方案。最后,本工作为在计算效率与伦理人工智能原则之间取得平衡奠定了理论基础,为未来的经验验证和更广泛的应用铺平了道路。
引用
@article{arxiv.2412.19241,
title = {Latenrgy: Model Agnostic Latency and Energy Consumption Prediction for Binary Classifiers},
author = {Jason M. Pittman},
journal= {arXiv preprint arXiv:2412.19241},
year = {2024}
}
备注
8 pages, 2 tables