跨常识任务迁移过程性知识
计算与语言
2023-11-21 v3
摘要
关于日常情境的故事是人类交流的重要组成部分,这促使需要开发能够可靠理解这些故事的 AI agent。尽管针对故事补全与过程性理解已有大量监督方法,当前 AI 仍缺乏在未见故事中自动追踪与解释过程的机制。为弥补这一差距,我们研究 AI 模型以透明方式将过程性知识迁移至新颖叙事任务的能力。我们设计 LEAP:一个综合框架,集成了基于自然与合成故事的最先进建模架构、训练机制与增强策略。为解决密集标注训练数据的缺乏,我们基于少样本提示设计了一个鲁棒的自动标注器以增强增广数据。我们在域内与域外任务上的实验揭示了不同架构、训练机制与增强策略之间相互作用的洞见。LEAP 的标注器对域外数据集具有明确的正向影响,而由此产生的密集标注提供了原生的可解释性。
引用
@article{arxiv.2304.13867,
title = {Transferring Procedural Knowledge across Commonsense Tasks},
author = {Yifan Jiang and Filip Ilievski and Kaixin Ma},
journal= {arXiv preprint arXiv:2304.13867},
year = {2023}
}