ChatGPT 失败的类别化档案
计算与语言
2023-04-05 v8 人工智能
机器学习
摘要
大语言模型已被证明在不同领域具有价值。由 OpenAI 开发的 ChatGPT 使用海量数据训练，并通过理解上下文和生成恰当回复来模拟人类对话。它因能有效回答广泛的人类询问、以流畅且全面的答案在安全性和有用性上超越先前的公共聊天机器人而获得了显著关注。然而，目前缺乏对 ChatGPT 失败的全面分析，这正是本研究的重点。我们提出并讨论了十一类失败，包括推理、事实错误、数学、编程和偏见。同时也强调了 ChatGPT 的风险、局限性和社会影响。本研究旨在帮助研究人员和开发者改进未来的语言模型和聊天机器人。
引用
@article{arxiv.2302.03494,
title = {A Categorical Archive of ChatGPT Failures},
author = {Ali Borji},
journal= {arXiv preprint arXiv:2302.03494},
year = {2023}
}