中文

基于深度 AndersoNN 加速的人工生命与材料科学家构建

机器学习 2024-10-28 v1 应用物理

摘要

Deep AndersoNN 通过将神经网络中显式层数趋于无穷大时可取的单一隐式层(即深度均衡模型)进行加速,实现 AI 的加速。求解深度均衡模型参数可转化为非线性固定点迭代问题,使向量到向量迭代求解器(如 Anderson 拟 extrapolation)可用于加速收敛。本文表明,Deep AndersoNN 在训练与推理中可实现约一个数量级的加速。该方法通过构建人工生命与材料“科学家”,应用于工业应用的密度泛函理论结果,分别用于分类药物是强极性还是弱极性、金属有机框架按孔径分类,以及晶体材料按金属、半导体、绝缘体分类,使用由原子-键网络转换为图节点邻域表示的图图像。结果在准确率达到 98% 方面表现出色,展示了 Deep AndersoNN 与现代计算架构(如 GPU)中机器学习能力之间的协同效应,实现了通过快速识别结构-性质关系进行的加速计算生命与材料科学。这为节省最高可达 90% 的 AI 计算资源、到 2030 年将碳足迹降低最高可达 60 吨二氧化碳,并超越生命与材料科学中显式神经网络的内存限制,提供了可能。

关键词

引用

@article{arxiv.2407.19724,
  title  = {Constructing artificial life and materials scientists with accelerated AI using Deep AndersoNN},
  author = {Saleem Abdul Fattah Ahmed Al Dajani and David Keyes},
  journal= {arXiv preprint arXiv:2407.19724},
  year   = {2024}
}

备注

7 pages, 5 figures, 2 tables, Accepted by ICML ML4LMS https://openreview.net/forum?id=qhwyvhqAvI . International Conference on Machine Learning (ICML). Machine Learning for Life and Material Science (ML4LMS) Workshop, May 2024