从预训练语言模型中挖掘逻辑事件图式
计算与语言
2022-04-13 v1 人工智能
摘要
我们提出 NESL（神经-情景图式学习器），一种事件图式学习系统，它结合了大型语言模型、FrameNet 解析、一种强大的语言逻辑表示，以及一组用于引导学习过程的简单行为图式。我们的数据集并非现成的故事语料库，而是来自预训练语言模型的连续“情境样本”流，这些样本随后被解析为 FrameNet 框架，映射为简单行为图式，并组合、泛化为针对多种日常场景的复杂、分层图式。我们表明，从语言模型中进行谨慎采样有助于突出情境的刻板属性并弱化无关细节，且所得图式比其它系统学到的图式更全面地刻画了情境。
引用
@article{arxiv.2204.05939,
title = {Mining Logical Event Schemas From Pre-Trained Language Models},
author = {Lane Lawley and Lenhart Schubert},
journal= {arXiv preprint arXiv:2204.05939},
year = {2022}
}
备注
To appear at ACL SRW 2022