用槽变换器求解推理任务
机器学习
2022-10-21 v1
摘要
为了对时间与空间进行推理而将世界切分为有用抽象的能力是智能的关键组成部分。为了利用感官成功感知并有效行动，我们必须解析并压缩大量信息以供后续下游推理进行，使日益复杂的概念得以涌现。若寄望将表示学习方法扩展到处理真实世界场景与时间动态，则必须存在一种跨时间学习准确、简洁且可组合抽象的方式。我们提出 Slot Transformer（槽变换器），一种在视频场景数据上利用槽注意力、变换器与迭代变分推断来推断此类表示的架构。我们在 CLEVRER、Kinetics-600 与 CATER 数据集上评估 Slot Transformer，并证明该方法使我们能对复杂行为建立鲁棒建模与推理，且在这些数据集上取得了优于现有基线的分数。最后我们评估了该架构关键组件的有效性、模型的表示能力及其从不完整输入进行预测的能力。
引用
@article{arxiv.2210.11394,
title = {Solving Reasoning Tasks with a Slot Transformer},
author = {Ryan Faulkner and Daniel Zoran},
journal= {arXiv preprint arXiv:2210.11394},
year = {2022}
}