D4C:提升负样本质量以增强机器抽象推理能力
计算机视觉与模式识别
2025-04-29 v9
摘要
本文致力于解决增强人工智能抽象推理能力的挑战,特别是涉及复杂人类概念的任务。我们引入了 Lico-Net,这是一种基于深度学习理论的新型推理引擎,它将瑞文渐进矩阵(RPM)问题的逻辑结构编码为概率表示。Lico-Net 在解决 RPM 任务方面表现出色。此外,我们提出了 Lico-Net-Bongard,这是专为 Bongard-Logo 问题定制的 Lico-Net 版本,同样通过概率表示实现了高推理准确率。然而,我们观察到深度学习算法与人类归纳推理概念的方式之间存在不匹配,这主要归因于负样本质量不足。负样本配置不当可能会向深度学习算法传递错误的概念信息,从而扭曲其学习目标。为解决这一问题,我们提出了两种新方法:首先,将推理问题内的不同样本点视为相互负样本,以改变数据中现有的负样本结构;其次,设计一种基于逐步线性注意力机制的负样本生成器,以生成高质量负样本。实验结果表明,这些方法显著提升了 Lico-Net(-Bongard)及其他基线模型在 RPM 和 Bongard-Logo 数据集上的性能,以及在基础视觉模型处理领域的表现,特别是在解决 NICO 数据集的分布偏移问题时。我们的发现强调了提升负样本质量对于增强深度学习算法抽象推理能力的重要性,并表明该系统代表了该领域未来研究的一个有前景的方向。
引用
@article{arxiv.2403.03452,
title = {D4C: Improving Negative Example Quality to Enhance Machine Abstract Reasoning Ability},
author = {Ruizhuo Song and Beiming Yuan},
journal= {arXiv preprint arXiv:2403.03452},
year = {2025}
}
备注
14 pages, 15 figures, 13 tables