中文

深度核方法学得更好:从纸牌到过程优化

机器学习 2023-09-20 v2 无序系统与神经网络 介观与纳米尺度物理 材料科学

摘要

深度学习方法执行分类和回归任务的能力严重依赖于其揭示高维数据空间中流形并将其投影到低维表示空间的能力。在本研究中,我们调查由经典变分自编码器(VAE)方法和深度核学习(DKL)生成的流形的结构与特征。在前一种情况下,隐空间的结构仅由输入数据的性质决定,而在后一种情况下,隐流形形成于主动学习过程,该过程平衡数据分布与目标功能。我们展示带有主动学习的 DKL 能产生比先前报道的方法(如 VAE)更紧凑和平滑、更利于优化的隐空间。我们使用一个简单的纸牌数据集演示此行为,并将其扩展到物理系统中领域生成轨迹的优化。我们的发现表明,通过主动学习构建的隐流形对优化问题具有更有利的结构,尤其在领域科学中常见的特征丰富目标贫乏场景,如材料合成、能量存储和分子发现。封装完整分析的 jupyter notebooks 随文章提供。

关键词

引用

@article{arxiv.2303.14554,
  title  = {Deep Kernel Methods Learn Better: From Cards to Process Optimization},
  author = {Mani Valleti and Rama K. Vasudevan and Maxim A. Ziatdinov and Sergei V. Kalinin},
  journal= {arXiv preprint arXiv:2303.14554},
  year   = {2023}
}

备注

8 Figures, 26 pages