在可微分神经网络与加速器协同探索中支持硬约束
机器学习
2023-01-24 v1 硬件体系结构
摘要
对最优神经架构及其硬件加速器进行协同探索是一种日益受到关注的方法，它解决了计算成本问题，尤其在低性能系统中。庞大的协同探索空间通常通过采用可微分神经架构搜索的思想来处理。然而，尽管可微分协同探索具有卓越的搜索效率，它面临一个关键挑战：无法系统地满足帧率等硬约束。为处理可微分协同探索的硬约束问题，我们提出了 HDX，其在不损害全局设计目标的前提下搜索满足硬约束的解。通过针对给定硬约束对梯度进行操控，可获得满足该约束的高质量解。
引用
@article{arxiv.2301.09312,
title = {Enabling Hard Constraints in Differentiable Neural Network and Accelerator Co-Exploration},
author = {Deokki Hong and Kanghyun Choi and Hye Yoon Lee and Joonsang Yu and Noseong Park and Youngsok Kim and Jinho Lee},
journal= {arXiv preprint arXiv:2301.09312},
year = {2023}
}
备注
publisehd at DAC'22