IRNet：一种用于材料发现的通用深度残差回归框架
计算物理
2019-07-09 v1 机器学习
机器学习
摘要
材料发现对于许多领域的科学进步至关重要。来自实验和第一性原理计算的数据集激发了人们应用机器学习方法创建预测模型的兴趣，这些模型能够将从成分和晶体结构到材料性质的映射。通常，这些是回归问题，输入为由代表材料成分和/或晶体结构的数值属性组成的1D向量。虽然由全连接层构成的神经网络已被应用于此类问题，但当网络深度增加时，其性能常受梯度消失问题影响。本文中，我们研究并提出了构建以数值向量为输入、由全连接层组成的深度回归网络的设计原则。我们引入了一种具有独立残差学习的新型深度回归网络IRNet，其在每一层之后放置捷径连接，使每一层学习其输出与输入之间的残差映射。我们利用从材料成分和/或晶体结构导出的数值属性学习无机材料性质的问题，来比较IRNet与其他机器学习技术的性能。使用来自开放量子材料数据库（OQMD）和材料计划（Materials Project）的多个数据集进行训练和评估，我们表明IRNet比领域科学家当前使用的最先进机器学习方法提供了显著更好的预测性能。我们还表明，IRNet采用的独立残差学习在训练阶段比捷径连接位于多层堆叠之间时具有更好的收敛性，同时保持相同数量的参数。
引用
@article{arxiv.1907.03222,
title = {IRNet: A General Purpose Deep Residual Regression Framework for Materials Discovery},
author = {Dipendra Jha and Logan Ward and Zijiang Yang and Christopher Wolverton and Ian Foster and Wei-keng Liao and Alok Choudhary and Ankit Agrawal},
journal= {arXiv preprint arXiv:1907.03222},
year = {2019}
}
备注
9 pages, under publication at KDD'19