批次注意力 Transformer：在批次中寻找注意力
计算机视觉与模式识别
2025-11-11 v1 人工智能
摘要
面部表情识别（FER）在计算机视觉中受到广泛关注，尤其是在人机交互等“野外”环境中。然而，FER 图像包含诸多不确定性，如遮挡、低分辨率、姿态变化、光照变化以及主观性，部分表情甚至不符合目标标签。Consequently，从噪声单个图像中获取的信息有限且不可信。这会显著降低 FER 任务的性能。为此，我们提出了批次 Transformer（BT），其由提出的类批次注意力（CBA）模块构成，通过在多个图像的特征上进行训练来防止过拟合并提取可靠信息，而非依赖单个图像的信息。我们还提出了多层次注意力（MLA），以捕获各层之间的相关性，防止对特定特征的过拟合。本文提出了一种批次 Transformer 网络（BTN），将上述方案相结合。在 various FER benchmark 数据集上的实验结果表明，所提出的 BTN 在 FER 数据集上 consistently 优于现有技术。代表性结果显示，所提出的 BTN 在 FER 领域具有巨大的潜力。
引用
@article{arxiv.2407.04218,
title = {Batch Transformer: Look for Attention in Batch},
author = {Myung Beom Her and Jisu Jeong and Hojoon Song and Ji-Hyeong Han},
journal= {arXiv preprint arXiv:2407.04218},
year = {2025}
}