关于基于机器学习的拥塞预测器对有效且不可察觉扰动的鲁棒性与泛化性
机器学习
2024-03-04 v1 硬件体系结构
摘要
人们对该在整个电子计算机辅助设计（CAD）流程中使用基于机器学习（ML）的技术，特别是基于深度学习的方法，抱有浓厚兴趣。然而，尽管深度学习方法在若干应用中取得了最先进的性能，最近的研究表明，神经网络通常对其输入的微小、精心选择的扰动（例如图像中单个像素的变化）是脆弱的。在本工作中，我们研究了基于 ML 的 EDA 工具（特别是拥塞预测）背景下的鲁棒性。据我们所知，我们是首个在基于 ML 的 EDA 背景下探索这一概念的。首先，我们描述了一种专为定义在网表和单元布局上的 VLSI 布局问题设计的不可察觉性新概念。我们的不可察觉性定义的特征在于保证对布局的扰动不会改变其全局布线。随后，我们证明了最先进的基于 CNN 和 GNN 的拥塞模型对不可察觉的扰动表现出脆弱性。具体而言，我们表明，当少量单元（例如 1%-5% 的单元）的位置发生偏移，使得全局拥塞度量保证不受影响时（例如，设计中 1% 的部分被对抗性地偏移布局空间的 0.001%，导致预测的拥塞减少高达 90%，而扰动本身并未暗示拥塞发生变化），模型会出现问题。换句话说，对于任意输入布局，预测器的质量可以变得任意差（即可以被诱导预测设计是“无拥塞”的）。接下来，我们描述了一种简单的训练预测器的技术，以提高对这些扰动的鲁棒性。我们的工作表明，CAD 工程师在将基于神经网络的机制集成到 EDA 流程时应保持谨慎，以确保结果的鲁棒性和高质量。
引用
@article{arxiv.2403.00103,
title = {On Robustness and Generalization of ML-Based Congestion Predictors to Valid and Imperceptible Perturbations},
author = {Chester Holtz and Yucheng Wang and Chung-Kuan Cheng and Bill Lin},
journal= {arXiv preprint arXiv:2403.00103},
year = {2024}
}
备注
7 pages, 7 figures