能源视角下的边缘对比自监督学习
机器学习
2025-10-10 v1
摘要
尽管对比学习 (Contrastive Learning, CL) 在自监督表征学习方面显示出巨大的潜力,但其在资源受限设备上的部署仍 largely 未被探索。传统 CL 框架训练所需的计算资源构成了一系列挑战,尤其涉及能源消耗、数据可用性和内存使用。我们评估了四种广泛使用的 CL 框架:SimCLR、MoCo、SimSiam 和 Barlow Twins。我们关注这些 CL 框架在边缘和雾计算部署中的实际可行性,提出系统化的基准测试策略,包括能源剖析和减少训练数据条件。我们的发现表明,尽管 SimCLR 被认为计算成本高昂,但在各种数据 regime 下其能源消耗最低。最后,我们还通过评估轻量级神经网络架构与 CL 框架的组合来扩展分析。我们的研究旨在为在处理能力有限的边缘/雾环境中部署 CL 提供资源层面的见解,并为未来的优化开辟了若干研究方向。
引用
@article{arxiv.2510.08374,
title = {Contrastive Self-Supervised Learning at the Edge: An Energy Perspective},
author = {Fernanda Famá and Roberto Pereira and Charalampos Kalalas and Paolo Dini and Lorena Qendro and Fahim Kawsar and Mohammad Malekzadeh},
journal= {arXiv preprint arXiv:2510.08374},
year = {2025}
}