探索基于提示的大语言模型零样本上位词预测方法
计算与语言
2024-01-10 v1 人工智能
摘要
本文研究了一种利用大语言模型（LLMs）进行上位词预测的零样本方法。该研究采用了一种基于文本概率计算的方法，并将其应用于各种生成的提示。实验表明，语言模型提示的有效性与经典模式之间存在强相关性，这表明在使用较大模型之前，可以利用较小模型进行初步的提示选择。我们还探索了用于预测同位下位词的提示，并通过自动识别的同位下位词增强提示信息，从而改进上位词预测。我们开发了一种迭代方法来预测更高层级的概念，这进一步提高了在 BLESS 数据集上的质量（MAP = 0.8）。
引用
@article{arxiv.2401.04515,
title = {Exploring Prompt-Based Methods for Zero-Shot Hypernym Prediction with Large Language Models},
author = {Mikhail Tikhomirov and Natalia Loukachevitch},
journal= {arXiv preprint arXiv:2401.04515},
year = {2024}
}