PAT：用于越南语视觉问答的并行注意力 Transformer
计算与语言
2023-07-18 v1
摘要
本文提出一种名为并行注意力机制的多模态学习新方案。此外，为兼顾越南语中语法与上下文的优势，我们提出层次化语言特征提取器（Hierarchical Linguistic Features Extractor），以替代 LSTM 网络来提取语言特征。基于这两个新模块，我们引入了并行注意力 Transformer（PAT），在基准 ViVQA 数据集上相较所有基线以及包括 SAAA 和 MCAN 在内的其他 SOTA 方法取得了最优准确率。
引用
@article{arxiv.2307.08247,
title = {PAT: Parallel Attention Transformer for Visual Question Answering in Vietnamese},
author = {Nghia Hieu Nguyen and Kiet Van Nguyen},
journal= {arXiv preprint arXiv:2307.08247},
year = {2023}
}