探索 D-Wave 量子退火用于训练受限玻尔兹曼机与缓解灾难性遗忘

探索 D-Wave 量子退火（QA）与经典马尔可夫链蒙特卡洛（MCMC）当应用于受限玻尔兹曼机（RBM）时，抽样性能之间的适度统计差异，以解释以及可能解决，D-Wave 抽样在先前调查中未能显著且持续地提高 RBM 可训练性的问题。调查一种新颖的混合抽样方法，将经典与 QA 贡献相结合，作为从两种抽样方法之间的适度差异中获益的有前景的方式。本工作未在 RBM 训练中实现改进，从而表明 QA 基于抽样与 MCMC 抽样之间的差异——主要存在于分布中中低概率区域——对于样本质量不够重要，从而不足以惠及训练。实现将 RBM 嵌入到较新一代 D-Wave 硬件的晶格中以获得足够高质量嵌入的困难性可能进一步 complicate 任务。另一方面，能够从分布中低概率区域生成足够多样的样本的能力，有潜力惠及其他机器学习应用，例如在增量学习期间缓解灾难性遗忘（CF）。本工作首次演示了使用 QA 生成的有希望的类的模式来通过生成式重放来缓解 CF 的可行性。虽然使用 D-Wave QA 的 CF 缓解效率相当于经典缓解方法，但两者相比，QA 方法在生成大量独特有希望模式的速度以及潜在的进一步改进，使其在各种具有挑战性的机器学习应用中具有前景。