基于可扩展图神经网络的迁移学习以提升物理仿真效果
机器学习
2025-02-12 v1 人工智能
摘要
近年来，基于图神经网络（GNN）的模型在模拟复杂系统的物理方面显示出前景。然而，训练专门的图网络基于物理的仿真器代价高昂，因为大多数模型局限于完全监督训练，需要来自传统物理仿真器生成的大量数据。迄今为止，迁移学习如何改善模型性能和训练效率 remains 未得到探索。本文引入一种预训练和迁移学习范例用于图网络仿真器。我们提出了可扩展图 U-net（SGUNET）。融合创新的深度优先搜索（DFS）池化，SGUNET 能够适应不同网格大小和分辨率，以应对各种仿真任务。为在不同配置的 SGUNET 之间实现迁移学习，我们提出了一组映射函数来对齐预训练模型和目标模型的参数。还在损失函数中添加了一个额外的归一化项，以约束预训练权重与目标模型权重之间的差异，以获得更好的泛化性能。为预训练我们的物理仿真器，我们创建了一个包含 20,000 个随机挑选 3D 形状的物理仿真数据集，数据来源于开源 A Big CAD（ABC）数据集。我们展示了我们提出的迁移学习方法允许模型在微小的训练数据上fine-tuned 就能表现得比使用完整大量数据从头训练的模型更好。在 2D 可变形盘基准数据集上，我们的预训练模型在仅使用训练数据的 1/16 时fine-tuned，实现了位置 RMSE 降低 11.05%。
引用
@article{arxiv.2502.06848,
title = {Transfer learning in Scalable Graph Neural Network for Improved Physical Simulation},
author = {Siqi Shen and Yu Liu and Daniel Biggs and Omar Hafez and Jiandong Yu and Wentao Zhang and Bin Cui and Jiulong Shan},
journal= {arXiv preprint arXiv:2502.06848},
year = {2025}
}