用于高效测试时训练的异步感知机
计算机视觉与模式识别
2025-09-26 v4 人工智能
摘要
在这项工作中,我们提出了异步感知机,一种用于测试时训练(TTT)的计算高效架构。APM能够以任意顺序非对称地逐个处理图像块,且仍能在网络中编码语义感知。我们展示了APM无需特定数据集的预训练、数据增强或任何前置任务即可识别分布外图像的能力。APM在现有的TTT方法上提供了具有竞争力的性能。为了执行TTT,APM只需对测试样本的表示蒸馏一次。APM具备一项独特属性:它能够仅使用这一单一表示进行学习,并开始预测具备语义感知的特征。APM展示了测试时训练之外的潜在应用:APM可以扩展到2D图像数据集,并在单次前向传播中产生语义聚类。APM还提供了验证GLOM洞见(即输入感知是一个场)的初步实证证据。因此,APM帮助我们收敛向一种能够在共享连接主义硬件上同时进行插值和感知的实现。我们的代码在此链接公开提供:https://rajatmodi62.github.io/apm_project_page/。
引用
@article{arxiv.2410.20535,
title = {Asynchronous Perception Machine For Efficient Test-Time-Training},
author = {Rajat Modi and Yogesh Singh Rawat},
journal= {arXiv preprint arXiv:2410.20535},
year = {2025}
}
备注
Accepted to NeurIPS 2024 Main Track. APM is a step to getting Geoffrey Hinton's GLOM working