神经网络架构搜索与自动代码优化结合：综述
机器学习
2024-08-09 v1 编程语言
摘要
近年来，深度学习模型的复杂度和资源需求呈指数级增长。加速这些模型在资源受限设备上高效执行变得至关重要。硬件感知神经网络搜索（HW-NAS）和自动代码优化（ACO）是实现这一目标的两个重要技术。HW-NAS自动设计准确且硬件友好的神经网络，而ACO则通过搜索编译器优化来实现神经网络在目标硬件上的高效映射与推理。本综述探讨了将这两种技术在单一框架内结合的recent工作。我们介绍了两个领域的基本原理，展示了在独立执行时存在的次优性。随后，我们研究了将其集成为联合优化过程的集成方法，称为硬件感知神经网络架构和编译器优化联合搜索（NACOS）。
引用
@article{arxiv.2408.04116,
title = {Combining Neural Architecture Search and Automatic Code Optimization: A Survey},
author = {Inas Bachiri and Hadjer Benmeziane and Smail Niar and Riyadh Baghdadi and Hamza Ouarnoughi and Abdelkrime Aries},
journal= {arXiv preprint arXiv:2408.04116},
year = {2024}
}
备注
version 0, 13 pages, 4 figures