大语言模型存在高估深刻性的偏差
计算与语言
2024-02-02 v1
摘要
以GPT-4为代表的大语言模型（LLM）在自然语言处理方面的最新进展被认为已接近通用人工智能。然而，LLM是否具备与人类相似的推理能力仍存争议。本研究评估了GPT-4及其他多种LLM对平凡、励志与伪深刻语句深刻性的判断。我们发现，无论语句类型与所用提示技术如何，LLM与人类之间均存在显著的语句间相关性。但LLM系统性地高估了无意义语句的深刻性，唯有Tk-instruct例外，其独特地低估了语句的深刻性。与思维链提示相反，少样本学习提示使LLM的评分更接近于人类。此外，本工作揭示了基于人类反馈的强化学习（RLHF）所诱发的潜在偏差，其导致高估语句深刻性的偏差增大。
引用
@article{arxiv.2310.14422,
title = {Large Language Models are biased to overestimate profoundness},
author = {Eugenio Herrera-Berg and Tomás Vergara Browne and Pablo León-Villagrá and Marc-Lluís Vives and Cristian Buc Calderon},
journal= {arXiv preprint arXiv:2310.14422},
year = {2024}
}
备注
5 pages, 3 figures