Code4Struct：用于少样本事件结构预测的代码生成
计算与语言
2023-05-26 v2
摘要
在文本与代码混合数据上训练的大语言模型（LLM）已展现出将自然语言（NL）翻译为结构化代码的惊人能力。我们观察到语义结构可便捷地转化为代码，并提出 Code4Struct 以利用此种文本到结构的翻译能力处理结构化预测任务。作为一个案例研究，我们将事件论元抽取（EAE）形式化为将文本转换为可用代码表示为类对象的事件-论元结构。这种结构与代码的对齐使我们能够利用编程语言（PL）特性，如继承与类型标注，来引入外部知识或添加约束。我们表明，在具备充足上下文示例时，将 EAE 形式化为代码生成问题优于使用基于文本的提示变体。尽管每类事件仅使用 20 个训练事件实例，Code4Struct 可与在 4,202 个实例上训练的监督模型相媲美，并以 29.5% 的绝对 F1 优于当前在 20-shot 数据上训练的先进（SOTA）模型。Code4Struct 可使用来自兄弟事件类型的 10-shot 训练数据来预测零资源事件类型的论元，并以 12% 的绝对 F1 优于零样本基线。
引用
@article{arxiv.2210.12810,
title = {Code4Struct: Code Generation for Few-Shot Event Structure Prediction},
author = {Xingyao Wang and Sha Li and Heng Ji},
journal= {arXiv preprint arXiv:2210.12810},
year = {2023}
}
备注
ACL 2023