主动学习离散序列有效性的判别因素

深度学习技术在传统的监督和无监督机器学习问题上取得了巨大成功。这些技术在很大程度上有赖于求解连续优化问题。然而，近期离散生成式深度学习模型已被成功用于高效搜索高维离散空间。这些方法通过将离散对象表示为序列来工作，从而可以应用强大的基于序列的深度模型。遗憾的是，这些生成模型经常产生无效序列，严重阻碍了其应用。作为解决此问题的一个步骤，我们提出学习一个深度循环验证器模型。给定一个部分序列，我们的模型学习该序列作为完整有效序列起始部分的出现概率。由此，该模型能够识别有效序列与无效序列，并且至关重要的是，它还能揭示单个序列元素如何影响离散对象的有效性。为了学习该模型，我们提出了一种受贝叶斯主动学习领域开创性工作启发的方法。在一个合成数据集上，我们展示了模型区分有效与无效序列的能力。我们相信这是朝着学习能够忠实生成有效离散对象的生成模型迈出的关键一步。