PInKS：基于极弱监督的先决条件常识推理
计算与语言
2023-08-15 v2
摘要
对于“玻璃可用于喝水，除非玻璃碎了”这类先决条件进行推理，仍是语言模型面临的一个开放问题。主要挑战在于先决条件数据的稀缺以及模型缺乏对此类推理的支持。我们提出 PInKS（Preconditioned Commonsense Inference with WeaK Supervision，基于弱监督的先决条件常识推理），一种通过极小监督进行先决条件推理的改进模型。我们从经验和理论两方面表明，PInKS 在聚焦于常识知识先决条件推理的基准上提升了结果（Macro-F1 分数最高提升 40%）。我们进一步通过 PAC-Bayesian 信息量分析、精度度量和消融研究对 PInKS 进行了探究。
引用
@article{arxiv.2206.07920,
title = {PInKS: Preconditioned Commonsense Inference with Minimal Supervision},
author = {Ehsan Qasemi and Piyush Khanna and Qiang Ning and Muhao Chen},
journal= {arXiv preprint arXiv:2206.07920},
year = {2023}
}
备注
AACL 2022