逆向更优！面向少样本槽位标注的快速精准提示方法
计算与语言
2022-04-05 v1 人工智能
摘要
提示方法近期在少样本学习中取得了令人瞩目的成功。这些方法使用提示句段修改输入样本，并解码标签词元以将样本映射到相应标签。然而，这种范式对于槽位标注任务而言效率极低。由于槽位标注样本是句子中的多个连续词，提示方法不得不枚举所有 n-gram 词元跨度以找出所有可能的槽位，这极大地拖慢了预测速度。为此，我们引入了一种逆向提示范式。与将词元映射到标签的经典提示不同，我们在给定槽类型的条件下反向预测槽值。这种逆向提示对每个槽类型仅需一轮预测，大幅加快了预测速度。此外，我们提出了一种新颖的迭代预测策略，模型借此学习通过考虑不同槽类型之间的关系来精炼预测。我们有些惊讶地发现，所提方法不仅预测更快，还显著提升了效果（在 10-shot 设定下 F1 分数提升超过 6.1），并取得了新的 SOTA 性能。
引用
@article{arxiv.2204.00885,
title = {Inverse is Better! Fast and Accurate Prompt for Few-shot Slot Tagging},
author = {Yutai Hou and Cheng Chen and Xianzhen Luo and Bohan Li and Wanxiang Che},
journal= {arXiv preprint arXiv:2204.00885},
year = {2022}
}
备注
Accepted by ACL-findings 2022