用于离子输运物理信息深度学习的注意力增强神经常微分方程
机器学习
2023-12-06 v1 数学物理
math.MP
计算物理
摘要
物种输运模型通常将偏微分方程与来自受阻输运理论的关系相结合，以量化通过复杂纳米多孔系统的电迁移、对流和扩散输运；然而，这些公式往往是对控制动力学的大量简化，导致基于偏微分方程的模型泛化性能较差。鉴于物理科学领域对深度学习方法日益增长的兴趣，我们开发了一种基于机器学习的方法来表征离子通过纳米多孔膜的输运。我们提出的框架以注意力增强神经常微分方程为中心，该方程融入了基于电中性的归纳偏置，以提高相对于传统基于偏微分方程方法的泛化性能。此外，我们研究了注意力机制在阐明不同混合物组成中具有物理意义的离子配对关系方面的作用。进一步地，我们探讨了在基于 PDE 模型的模拟数据上进行预训练的重要性，以及硬性与软性归纳偏置带来的性能优势。我们的结果表明，物理信息深度学习解决方案可以优于其经典的基于 PDE 的对应方法，并为跨多种应用建模复杂输运现象提供了有前景的途径。
引用
@article{arxiv.2312.02871,
title = {Attention-enhanced neural differential equations for physics-informed deep learning of ion transport},
author = {Danyal Rehman and John H. Lienhard},
journal= {arXiv preprint arXiv:2312.02871},
year = {2023}
}
备注
8 pages, 2 figures. Accepted in the NeurIPS Machine Learning and the Physical Sciences Workshop