使用混合与循环神经网络架构深度学习卡拉比-丘四流形

在这项工作中，我们报告了将基于混合卷积-循环和纯循环神经网络架构的深度学习应用于近一百万个完全交集卡拉比-丘四流形 (CICY4) 数据集的结果，以机器学习其四个 Hodge 数 $h^{1,1}, h^{2,1}, h^{3,1}, h^{2,2}$。具体而言，我们探索并试验了十二种不同的神经网络模型，其中九种是卷积-循环 (CNN-RNN) 混合模型，其 RNN 单元为 GRU (Gated Recurrent Unit) 或 LSTM (Long Short Term Memory)。其余四个模型是基于 LSTM 的纯循环神经网络。在 72% 的训练比例下，就 $h^{1,1}, h^{2,1}, h^{3,1}, h^{2,2}$ 的预测准确率而言，我们表现最佳的单一模型是 CNN-LSTM-400（一种 LSTM 隐藏层大小为 400 的混合 CNN-LSTM），其准确率分别达到 99.74%、98.07%、95.19%、81.01%；我们表现第二佳的单一模型是 LSTM-448（一种隐藏层大小为 448 的基于 LSTM 的模型），其准确率分别达到 99.74%、97.51%、94.24% 和 78.63%。通过将前两名、前三名甚至前四名模型组成集成，这些结果得到了进一步改善。我们最佳的集成模型由前四名模型组成，达到了 99.84%、98.71%、96.26%、85.03% 的准确率。在 80% 的训练比例下，表现最佳的两个模型 LSTM-448 和 LSTM-424 均为基于 LSTM 的模型，隐藏层大小分别为 448 和 424。与 72% 的训练比例相比，准确率有显著提高，最佳单一模型达到了 99.85%、98.66%、96.26%、84.77%，最佳集成模型达到了 99.90%、99.03%、97.97%、87.34%。本质上作为概念验证，这项工作的结果确凿地确立了基于 RNN 架构的实用性，并证明了在深度学习卡拉比-丘流形的问题上，相较于已被充分探索的纯 CNN 架构，其具有的有效性能。