中文

跨常识任务迁移过程性知识

计算与语言 2023-11-21 v3

摘要

关于日常情境的故事是人类交流的重要组成部分,这促使需要开发能够可靠理解这些故事的 AI agent。尽管针对故事补全与过程性理解已有大量监督方法,当前 AI 仍缺乏在未见故事中自动追踪与解释过程的机制。为弥补这一差距,我们研究 AI 模型以透明方式将过程性知识迁移至新颖叙事任务的能力。我们设计 LEAP:一个综合框架,集成了基于自然与合成故事的最先进建模架构、训练机制与增强策略。为解决密集标注训练数据的缺乏,我们基于少样本提示设计了一个鲁棒的自动标注器以增强增广数据。我们在域内与域外任务上的实验揭示了不同架构、训练机制与增强策略之间相互作用的洞见。LEAP 的标注器对域外数据集具有明确的正向影响,而由此产生的密集标注提供了原生的可解释性。

关键词

引用

@article{arxiv.2304.13867,
  title  = {Transferring Procedural Knowledge across Commonsense Tasks},
  author = {Yifan Jiang and Filip Ilievski and Kaixin Ma},
  journal= {arXiv preprint arXiv:2304.13867},
  year   = {2023}
}