PyGFI：分析与增强图神经网络抵御硬件错误的鲁棒性
机器学习
2023-04-25 v2
摘要
图神经网络（GNNs）近来作为一种有前景的学习图结构数据的范式而出现，并在推荐系统、社交网络和电子设计自动化（EDA）等多个领域展现出广泛成功。与其他深度学习（DL）方法一样，GNNs 正被部署于复杂的现代硬件系统以及专用加速器中。然而，尽管 GNNs 广受欢迎且近期有将其推向硬件的努力，GNNs 的容错性与弹性总体上被忽视。受 DL 方法固有算法弹性的启发，本文首次开展大规模实证 GNN 弹性研究，旨在理解硬件故障与 GNN 精度之间的关系。通过在 PyTorch 上开发定制故障注入工具，我们在多种 GNN 模型与应用数据集上进行了广泛的故障注入实验。我们观察到 GNN 模型的错误弹性因不同模型与应用数据集而异，相差数个数量级。进一步，我们探索了一种低成本的 GNN 错误缓解机制以增强其弹性。该 GNN 弹性研究旨在为未来 GNN 加速器设计与体系结构优化开辟新方向与机遇。
引用
@article{arxiv.2212.03475,
title = {PyGFI: Analyzing and Enhancing Robustness of Graph Neural Networks Against Hardware Errors},
author = {Ruixuan Wang and Fred Lin and Daniel Moore and Sriram Sankar and Xun Jiao},
journal= {arXiv preprint arXiv:2212.03475},
year = {2023}
}