中文

基于目标感知提示蒸馏的小样本立场检测

计算与语言 2022-06-28 v1

摘要

立场检测旨在识别文本作者对于给定的目标是支持、反对还是中立。该任务的主要挑战来自两方面:由目标变化引起的少样本学习,以及目标缺乏上下文信息。现有工作主要通过设计基于注意力的模型或引入含噪外部知识来解决第二个问题,而第一个问题仍鲜有探索。本文受预训练语言模型(PLMs)作为知识库与小样本学习器潜在能力的启发,提出引入基于提示的微调用于立场检测。PLMs 可为目标提供关键的上下文信息,并通过提示实现少样本学习。考虑到目标在立场检测任务中的关键作用,我们设计了目标感知提示并提出一种新颖的 verbalizer。我们的 verbalizer 不是将每个标签映射到具体词,而是将每个标签映射为向量,并选取最能捕捉立场与目标相关性的标签。此外,为缓解使用单一手工提示处理变化目标可能的缺陷,我们提出从多个提示中蒸馏所学信息。实验结果表明,我们所提模型在全数据与少样本场景下均具有优越性能。

关键词

引用

@article{arxiv.2206.13214,
  title  = {Few-Shot Stance Detection via Target-Aware Prompt Distillation},
  author = {Yan Jiang and Jinhua Gao and Huawei Shen and Xueqi Cheng},
  journal= {arXiv preprint arXiv:2206.13214},
  year   = {2022}
}

备注

Accepted by SIGIR 2022