中文

可微分多保真度融合:基于神经架构搜索与迁移学习的物理仿真高效学习

机器学习 2023-06-13 v1 人工智能

摘要

随着深度学习的快速进展,神经网络已作为代理模型被广泛应用于科学研究与工程应用中。尽管神经网络在拟合复杂系统上取得巨大成功,两个主要挑战依然存在:i) 在不同问题/数据集上泛化能力的缺乏,以及 ii) 对大量计算昂贵的仿真数据的需求。为解决这些挑战,我们提出可微分多保真度融合(DMF)模型,其利用神经架构搜索(NAS)自动搜索适用于不同问题的模型架构,并利用迁移学习将所学知识从低保真度(快速但不精确)数据迁移至高保真度(缓慢但精确)模型。新颖且最新的机器学习技术,如超参数搜索与交替学习,被用于提升 DMF 的效率与鲁棒性。因此,DMF 仅需少量高保真度训练样本即可高效学习物理仿真,并基于多种合成与实际基准问题以显著优势(RMSE 最高提升 58%)超越最先进方法。

关键词

引用

@article{arxiv.2306.06904,
  title  = {Differentiable Multi-Fidelity Fusion: Efficient Learning of Physics Simulations with Neural Architecture Search and Transfer Learning},
  author = {Yuwen Deng and Wang Kang and Wei W. Xing},
  journal= {arXiv preprint arXiv:2306.06904},
  year   = {2023}
}