MARCO：面向边缘设备的硬件感知神经架构搜索——基于多智能体强化学习与共形预测过滤
机器学习
2025-06-17 v1
摘要
本文提出MARCO（Multi-Agent Reinforcement learning with Conformal Optimization），一种面向资源受限边缘设备的高效神经架构搜索（NAS）硬件感知框架。通过显著缩短搜索时间并在严格硬件约束下保持精度，MARCO弥合了自动化深度神经网络设计与边缘AI部署CAD之间的差距。MARCO的核心技术贡献在于将多智能体强化学习（MARL）与共形预测（CP）独特结合，以加速部署深度神经网络的软硬件协同设计过程。与需要大量预训练的传统一次性全网络（OFA）超网络方法不同，MARCO将NAS任务分解为硬件配置智能体（HCA）和量化智能体（QA）。HCA优化高层设计参数，而QA在集中训练-分散执行（CTDE）范式下利用共享奖励信号，在严格的内存和延迟预算内确定逐层位宽。一项关键创新是集成了一个经过校准的CP代理模型，该模型提供统计保证（以用户定义的误覆盖率为参数），在承担部分训练或硬件模拟的高昂代价之前剪除前景不佳的候选架构。这种早期过滤大幅缩小了搜索空间，同时以高概率保留高质量设计。在MNIST、CIFAR-10和CIFAR-100上的大量实验表明，MARCO相比OFA基线实现了3-4倍的总搜索时间缩减，同时保持了接近基线的精度（误差在0.3%以内）。此外，MARCO还降低了推理延迟。在MAX78000评估板上的验证确认了模拟器趋势在实际中成立，模拟器估计值与实测值的偏差小于5%。
引用
@article{arxiv.2506.13755,
title = {MARCO: Hardware-Aware Neural Architecture Search for Edge Devices with Multi-Agent Reinforcement Learning and Conformal Prediction Filtering},
author = {Arya Fayyazi and Mehdi Kamal and Massoud Pedram},
journal= {arXiv preprint arXiv:2506.13755},
year = {2025}
}