Plausibility Vaccine：为事件可信度注入 LLM 知识
计算与语言
2025-03-18 v1 人工智能
摘要
尽管语言模型取得了进步，基于共现构建语义表示的分布式方法仍难以区分可信与不可信事件。本文研究如何通过注入来自大型语言模型（LLM）的潜在知识来提高可信度预测能力。我们训练 12 个任务适配器，以学习各种物理属性和关联度量，并对每个任务的潜在语义知识进行适配器融合，以在预训练的 AlBERT 嵌入之上组合。我们自动生成辅助任务数据，这使我们能够规模化该方法，并在两个可信度数据集上对所学表示进行微调。我们的代码已在 https://github.com/Jacob-Chmura/plausibility-vaccine 提供。
引用
@article{arxiv.2503.12667,
title = {Plausibility Vaccine: Injecting LLM Knowledge for Event Plausibility},
author = {Jacob Chmura and Jonah Dauvet and Sebastian Sabry},
journal= {arXiv preprint arXiv:2503.12667},
year = {2025}
}