监督式结构学习
机器学习
2023-11-20 v1 人工智能
摘要
本文关注离散生成式模型的结构学习或发现。其聚焦于贝叶斯模型选择以及对训练数据或内容的同化,特别强调数据摄入的顺序。在后续方案中,关键一步是基于期望自由能对模型选择施加先验。在此设定下,期望自由能化简为受约束互信息,其中约束继承自对结果(即偏好结果)的先验。所得方案首先用于MNIST数据集上的图像分类以阐明基本思想,随后在一个更具挑战性的发现具动态模型的问题上测试,采用基于简单精灵图的视觉解耦范式与汉诺塔(参见积木世界)问题。在这些例子中,生成式模型以自学习的方式构建,以恢复(即解耦)隐状态的因子结构——及其特征路径或动态。
引用
@article{arxiv.2311.10300,
title = {Supervised structure learning},
author = {Karl J. Friston and Lancelot Da Costa and Alexander Tschantz and Alex Kiefer and Tommaso Salvatori and Victorita Neacsu and Magnus Koudahl and Conor Heins and Noor Sajid and Dimitrije Markovic and Thomas Parr and Tim Verbelen and Christopher L Buckley},
journal= {arXiv preprint arXiv:2311.10300},
year = {2023}
}