DevFormer：一种用于上下文感知器件布局的对称 Transformer
机器学习
2023-06-08 v3
摘要
在本文中，我们提出 DevFormer，一种基于 Transformer 的新型架构，用于解决硬件设计优化这一复杂且计算需求高的难题。尽管 Transformer 在自然语言处理和计算机视觉等领域已展现出成效，但其在硬件设计中的应用受限于离线数据的稀缺。我们的方法通过引入强归纳偏置（如相对位置嵌入和作用排列对称性）来解决这一限制，这些偏置能有效捕捉硬件上下文，并在有限离线数据下实现高效的设计优化。我们将 DevFormer 应用于去耦电容布局问题，并在仿真和真实硬件上均展示出优于最先进方法的性能，在提升性能的同时将器件数量减少超过 。最后，我们表明我们的方法在其他基于离线上下文学习的组合优化任务中取得了有前景的结果。
引用
@article{arxiv.2205.13225,
title = {DevFormer: A Symmetric Transformer for Context-Aware Device Placement},
author = {Haeyeon Kim and Minsu Kim and Federico Berto and Joungho Kim and Jinkyoo Park},
journal= {arXiv preprint arXiv:2205.13225},
year = {2023}
}
备注
International Conference on Machine Learning (ICML) 2023. Extended version of NeurIPS 2022 Offline RL Workshop "Collaborative symmetricity exploitation for offline learning of hardware design solver"