中文

面向视觉生成归纳学习的元规则选择策略的预训练

机器学习 2025-03-11 v1 人工智能 计算机视觉与模式识别

摘要

视觉生成归纳学习研究在联合训练符号 grounding 神经视觉生成器和从数据中诱导逻辑规则,使得学习后,视觉生成过程由诱导的逻辑规则引导。该任务的主要挑战是减少逻辑归纳学习中耗时的逻辑归纳步骤,这是当逻辑符号集合较大且需诱导的逻辑规则较复杂时的关键步骤。为此,我们提出一种获取用于视觉生成学习方法AbdGen的元规则选择策略的预训练方法,旨在显著减少候选元规则集合并修剪搜索空间。该选择模型基于案例和元规则的符号 grounding 的嵌入表示,这可以与神经模型和逻辑推理系统有效集成。预训练过程在纯符号数据上完成,不涉及原始视觉输入的符号 grounding 学习,使得整个学习过程低成本。一个有趣的额外观察是,选择策略能够纠正预训练期间未出现的符号 grounding 错误,这源于注意力机制的记忆能力和符号模式的相对稳定性。实验结果表明,我们的方法能够有效解决视觉归纳学习的元规则选择问题,提升视觉生成归纳学习的效率。代码可在 https://github.com/future-item/metarule-select 获取。

关键词

引用

@article{arxiv.2503.06427,
  title  = {Pre-Training Meta-Rule Selection Policy for Visual Generative Abductive Learning},
  author = {Yu Jin and Jingming Liu and Zhexu Luo and Yifei Peng and Ziang Qin and Wang-Zhou Dai and Yao-Xiang Ding and Kun Zhou},
  journal= {arXiv preprint arXiv:2503.06427},
  year   = {2025}
}

备注

Published as a conference paper at IJCLR'24