文本与视觉语言检索中的概念对比性编辑
计算与语言
2025-03-05 v1 人工智能
摘要
随着深度学习模型的复杂性增加，实现模型无关性解释变得日益重要。在本工作中，我们运用事后概念对比性编辑来暴露检索模型中所嵌入的显著模式与偏见。我们系统设计针对 various 词性部件的最优且可控的对比干预，并有效地将其应用于解释语言和视觉语言预训练模型，采用黑盒方式。此外，我们引入一种新型指标来评估对比干预对模型输出的逐词影响，为全面评估每项干预的有效性提供了工具。
引用
@article{arxiv.2503.01914,
title = {Conceptual Contrastive Edits in Textual and Vision-Language Retrieval},
author = {Maria Lymperaiou and Giorgos Stamou},
journal= {arXiv preprint arXiv:2503.01914},
year = {2025}
}