PokemonChat:审计 ChatGPT 的宝可梦宇宙知识
计算与语言
2023-06-06 v1
摘要
最近发布的 ChatGPT 模型在零样本问答中展现出前所未有的能力。在这项工作中,我们探查 ChatGPT 的对话理解能力,并引入一个可在未来研究中采用的对话框架(协议)。由于其封闭世界假设,宝可梦宇宙可作为审计 ChatGPT 推理能力的理想测试场。在揭示 ChatGPT 关于宝可梦宇宙的背景知识后,我们测试了其在战斗场景中使用这些概念时的推理过程。随后我们评估其获取新知识并将其纳入推理过程的能力。我们的最终目标是评估 ChatGPT 泛化、组合特征以及从人类反馈中获取并推理新引入知识的能力。我们发现 ChatGPT 具备宝可梦宇宙的先验知识,可在很大程度上基于该知识进行战斗场景推理,即使引入新信息亦如此。该模型在协作反馈和存在初始信息检索阶段时表现更好,但偶尔也会产生幻觉并易受对抗攻击。
引用
@article{arxiv.2306.03024,
title = {PokemonChat: Auditing ChatGPT for Pok\'emon Universe Knowledge},
author = {Laura Cabello and Jiaang Li and Ilias Chalkidis},
journal= {arXiv preprint arXiv:2306.03024},
year = {2023}
}