TORE：视觉 Transformer 中用于高效主动视觉探索的令牌复用
机器学习
2024-11-27 v2 人工智能
计算机视觉与模式识别
摘要
主动视觉探索（AVE）通过顺序选择信息量最大的观测来优化真实场景中的机器人资源利用。然而，现代方法由于通过自编码器 Transformer 多次处理相同观测而需要高昂的计算预算。作为补救，我们引入了一种称为令牌复用（TOken REcycling，TORE）的 AVE 新方法。它将编码器划分为提取器和聚合器两部分。提取器分别处理每个观测，使得传递给聚合器的令牌得以复用。此外，为了进一步减少计算量，我们将解码器缩减为仅一个模块。通过大量实验，我们证明 TORE 在将计算开销减少多达 90% 的同时优于最先进的方法。
引用
@article{arxiv.2311.15335,
title = {TORE: Token Recycling in Vision Transformers for Efficient Active Visual Exploration},
author = {Jan Olszewski and Dawid Rymarczyk and Piotr Wójcik and Mateusz Pach and Bartosz Zieliński},
journal= {arXiv preprint arXiv:2311.15335},
year = {2024}
}
备注
Accepted to WACV 2025