论现实与语言数据的局限：将 LLM 与人类规范对齐
计算与语言
2023-05-10 v2 人工智能
机器学习
摘要
大语言模型（LLM）近期的进展利用海量自然语言数据中的语言关联用于实际应用。然而，其仅使用语言数据理解物理世界的能力仍存疑问。在回顾现有协议后，我们使用一种新颖且严格控制的推理测试（ART）探讨该问题，并将人类规范与多个 GPT-3 版本进行比较。我们的发现突出了可直接从数据学习的常识关系类别与薄弱之处。GPT-3 在包括同义、反义与默认继承在内的若干关系上提供了与人类受试者相当的言语推理证据。若无来自人类判断的强化学习，GPT-3 在 Has-part 与 Contained-in 上的表现似乎处于参考区间下限。在通过 Necessary-quality、Order-of-size 与 Order-of-intensity 体现的可供性特征上也观察到弱点。将 LLM 与符号世界接地相结合是解决关联学习的有前景方向。
引用
@article{arxiv.2208.11981,
title = {On Reality and the Limits of Language Data: Aligning LLMs with Human Norms},
author = {Nigel H. Collier and Fangyu Liu and Ehsan Shareghi},
journal= {arXiv preprint arXiv:2208.11981},
year = {2023}
}
备注
9 pages; data available, see https://sites.google.com/site/nhcollier/projects/art