ChatGPT 3 对学生安全吗?
软件工程
2024-12-11 v1
摘要
ChatGPT3 是一个聊天引擎,实现了基于 AI 的聊天引擎的承诺:用户可以提出问题(提示),它会以合理的方式回答。ChatGPT 的编码相关能力尤其令人印象深刻:非正式测试表明,很难找到 ChatGPT3 无法正确回答的简单问题。一些学生肯定已经在使用它来回答编程作业。本文研究了学生使用 ChatGPT3 回答编码作业是否安全(安全意味着他们不会因抄袭而被发现)。主要结果是学生使用 ChatGPT3 通常是不安全的。我们通过使用 Codequiry(一种抄袭检测工具)在 Google 中搜索生成的代码(仅考虑搜索结果第一页),评估了 ChatGPT3 生成代码的安全性。在 38% 的情况下,Codequiry 找到了 ChatGPT3 答案中部分复制的代码片段。在 96% 的情况下,Google 搜索找到了与生成代码非常相似的代码片段。总体而言,在 96% 的情况下,学生使用 ChatGPT3 是不安全的。
引用
@article{arxiv.2412.07564,
title = {Is ChatGPT 3 safe for students?},
author = {Julia Kotovich and Manuel Oriol},
journal= {arXiv preprint arXiv:2412.07564},
year = {2024}
}
备注
8 pages