中文

JaSPICE:基于谓词-论元结构的图像描述模型自动评价指标

计算机视觉与模式识别 2023-11-08 v1 计算与语言

摘要

图像描述研究严重依赖BLEU和METEOR等自动评价指标。然而,此类基于n-gram的指标已被证明与人类评价相关性较差,从而催生了如SPICE等面向英语的替代指标;但其他语言尚未建立等效指标。因此,在本研究中,我们提出了一种称为JaSPICE的自动评价指标,其基于场景图评价日语描述。所提方法从依存关系和谓词-论元结构生成场景图,并利用同义词扩展该图。我们采用在STAIR Captions和PFN-PIC上训练的10个图像描述模型进行实验,并构建了包含103,170条人类评价的Shichimi数据集。结果表明,我们的指标在与人类评价相关系数的表现上优于基线指标。

关键词

引用

@article{arxiv.2311.04192,
  title  = {JaSPICE: Automatic Evaluation Metric Using Predicate-Argument Structures for Image Captioning Models},
  author = {Yuiga Wada and Kanta Kaneda and Komei Sugiura},
  journal= {arXiv preprint arXiv:2311.04192},
  year   = {2023}
}

备注

Accepted at CoNLL 2023. Project page: https://yuiga.dev/jaspice/en