中文

ChatGPT 3 对学生安全吗?

软件工程 2024-12-11 v1

摘要

ChatGPT3 是一个聊天引擎,实现了基于 AI 的聊天引擎的承诺:用户可以提出问题(提示),它会以合理的方式回答。ChatGPT 的编码相关能力尤其令人印象深刻:非正式测试表明,很难找到 ChatGPT3 无法正确回答的简单问题。一些学生肯定已经在使用它来回答编程作业。本文研究了学生使用 ChatGPT3 回答编码作业是否安全(安全意味着他们不会因抄袭而被发现)。主要结果是学生使用 ChatGPT3 通常是不安全的。我们通过使用 Codequiry(一种抄袭检测工具)在 Google 中搜索生成的代码(仅考虑搜索结果第一页),评估了 ChatGPT3 生成代码的安全性。在 38% 的情况下,Codequiry 找到了 ChatGPT3 答案中部分复制的代码片段。在 96% 的情况下,Google 搜索找到了与生成代码非常相似的代码片段。总体而言,在 96% 的情况下,学生使用 ChatGPT3 是不安全的。

关键词

引用

@article{arxiv.2412.07564,
  title  = {Is ChatGPT 3 safe for students?},
  author = {Julia Kotovich and Manuel Oriol},
  journal= {arXiv preprint arXiv:2412.07564},
  year   = {2024}
}

备注

8 pages