DFKI-MLT 在 SemEval-2026 Task 7:引导多语言模型迈向文化知识
计算与语言
2026-05-25 v1
摘要
大型语言模型 (LLM) 越来越多地用于不同语言和文化背景中,但其文化知识在地域和语言之间不均衡。我们提出 DFKI-MLT 系统用于 SemEval-2026 Task 7 的文化意识任务,通过从平行 FLORES 数据中提取语言向量,对多语言 LLM 应用激活引导。该方法通过在选定的变换层的残差流中添加语言特定的引导向量进行推理时适应,无需任何参数更新。我们参与了短答案 (SAQ) 和多选题 (MCQ) 两个轨道;然而,只有我们的 MCQ 提交获得了官方评分。在官方 MCQ 轨道上,我们达到了 86.96% 的准确率,排名第 7 位(共 17 队)。为更好地理解系统行为,我们对共享任务的 MCQ 和 SAQ 设置进行了后验分析。这些分析显示,激活引导对文化推理的改进是适度且异质的:改进强烈依赖于层级,跨语言-地域对的差异显著,某些配置甚至会降低性能,并与提示表述方式相互作用,比较通用和文化条件化提示。我们的发现表明,提示设计和激活引导应联合优化,以实现文化意识多语言推理。
引用
@article{arxiv.2605.23069,
title = {DFKI-MLT at SemEval-2026 TASK 7: Steering Multilingual Models Towards Cultural Knowledge},
author = {Yusser Al Ghussin and Daniil Gurgurov and Yasser Hamidullah and Josef van Genabith and Cristina España-Bonet and Simon Ostermann},
journal= {arXiv preprint arXiv:2605.23069},
year = {2026}
}
备注
Accepted to The 20th International Workshop on Semantic Evaluation at ACL 2026