用于非参数贝叶斯推断的元学习神经回路

机器学习在分类中的多数应用假设存在均衡的封闭类集。这与现实世界相悖，现实中类别出现统计常遵循长尾幂律分布，且单次样本中观测到所有类别的可能性极低。非参数贝叶斯模型自然刻画了该现象，但在广泛采用上存在显著实践障碍，即实现复杂与计算低效。为此，我们提出一种从非参数贝叶斯模型中提取归纳偏置并迁移至人工神经网络的方法。通过以非参数贝叶斯先验模拟数据，我们可以元学习一个对无限类集执行推断的序列模型。训练后，该“神经回路”已提炼出相应归纳偏置，并可对开放类集成功执行序列推断。实验结果表明，该元学习神经回路在此类模型推断中取得与基于粒子滤波方法相当或更优的性能，同时比显式结合贝叶斯非参数推断的方法更快且更易用。