ChatGPT 生成的代码安全性如何？
密码学与安全
2026-04-09 v2
摘要
近年来，大语言模型（LLM）为人工智能（AI）领域带来了巨大进展。尤其是 OpenAI 开发并近期发布的 AI 聊天机器人 ChatGPT，将该领域提升到了新高度。该对话模型不仅能处理类人文本，还能将自然语言转化为代码。然而，ChatGPT 所生成程序的安全性不应被忽视。在本文中，我们进行一项实验以解决此问题。具体地，我们让 ChatGPT 生成若干程序并评估所得源代码的安全性。我们进一步探究能否通过恰当提示促使 ChatGPT 提升安全性，并讨论使用 AI 生成代码的伦理方面。结果表明，ChatGPT 意识到潜在漏洞，但仍常生成对某些攻击不具鲁棒性的源代码。
引用
@article{arxiv.2304.09655,
title = {How Secure is Code Generated by ChatGPT?},
author = {Raphaël Khoury and Anderson R. Avila and Jacob Brunelle and Baba Mamadou Camara},
journal= {arXiv preprint arXiv:2304.09655},
year = {2026}
}