别把婴儿连浴巾一起扔掉：深度学习在ARC中的方法与原因

抽象与推理语料库（ARC-AGI）为人工智能系统带来了巨大的挑战。尽管在ARC上通常表现较差，深度学习范式仍是已知最有效的策略，用于生成在视觉、语言等各种模态和任务中都能产生技能（state-of-the-art）神经网络（NN）。深度学习范式已被证明能够训练这些技能神经网络并学习这些多样领域所需的抽象。我们的工作在此基础上进一步发掘，并继续利用这一范式，通过在测试时进行即时NN训练来增强其ARC推理能力。我们展示，完全致力于深度学习获取新抽象能力即可在ARC上实现最先进的性能。具体而言，我们提出了一种从预训练大语言模型（LLM）开始，增强其ARC推理能力的训练方法。我们还提出了测试时微调（Test-Time Fine-Tuning, TTFT）和增强推理反向扩充与投票（Augment Inference Reverse-Augmentation and Vote, AIRV）作为有效的测试时技术。我们首次提出并展示深度学习可被有效用于ARC，AIRV可提高约260%的准确率，TTFT可进一步提高约300%。该方法的一个早期版本在2023年ARCathon竞赛中获得第一名，而最终版本在ARC私有测试集上实现了当前最佳得分（58%）。我们的发现凸显了在不熟悉领域中构建健壮推理系统的关键要素，强调了改善广泛感知推理的核心机制。