CPU 设计空间中的多目标优化：注意力就是你所需要的
机器学习
2025-08-15 v2 人工智能
硬件体系结构
摘要
设计空间探索 (DSE) 是现代 CPU 设计的关键，但当前框架在高维建筑空间中难以扩展和泛化。随着设计空间维度的不断增长，现有的 DSE 框架面临三个根本挑战：(1) 大型设计空间中代理模型的准确性和可扩展性下降；(2) 由手工启发式或穷举搜索驱动的获取效率低下；(3) 可解释性有限，难以确定建筑瓶颈。本文提出了 AttentionDSE，即首个原生集成性能预测和设计指导的 DSE 框架，利用基于注意力的神经网络建筑。不同于传统 DSE 工作流程将代理建模与获取分离并高度依赖手工启发式，AttentionDSE 建立了一个统一的、学习驱动的优化循环，其中注意力权重既可实现准确的性能估计，又可同时暴露性能瓶颈。本范式转变将注意力从被动的表示机制提升为主动、可解释的设计决策驱动力。关键创新包括：(1) 一种感知驱动的注意力机制，利用建筑层次结构和局部性，通过滑动窗口将注意力复杂度从 扩展到 ；(2) 一种注意力感知的瓶颈分析，可自动暴露关键参数以实现针对性优化，无需特定于领域的启发式。在基于 SPEC CPU2017 基准套件的高维 CPU 设计空间上评估，AttentionDSE 实现了最高可达 3.9% 更高的帕累托超体积，同时将探索时间缩短了 80% 以上。
引用
@article{arxiv.2410.18368,
title = {Multi-objective Optimization in CPU Design Space Exploration: Attention is All You Need},
author = {Runzhen Xue and Hao Wu and Mingyu Yan and Ziheng Xiao and Guangyu Sun and Xiaochun Ye and Dongrui Fan},
journal= {arXiv preprint arXiv:2410.18368},
year = {2025}
}