支持学生应对大语言模型生成的不安全代码
密码学与安全
2025-11-27 v1
摘要
人工智能（AI），特别是大语言模型（LLMs）的出现，通过使开发者能够用自然语言描述任务并接收相应代码，彻底改变了软件开发，提高了生产力。然而，这种转变也引入了安全风险，因为大语言模型可能生成可被攻击者利用的不安全代码。当前的教育方法强调效率而忽视了这些风险，导致学生在 AI 辅助工作流中识别和缓解安全问题的准备不足。为解决这一差距，我们提出了 Bifröst，一个在 AI 增强开发中培养安全意识的框架。Bifröst 集成了 (1) 一个模拟真实环境的 Visual Studio Code 扩展，(2) 经过对抗性配置、会生成不安全代码的大语言模型，以及 (3) 一个突出显示漏洞的反馈系统。通过让学生沉浸在由受损大语言模型辅助的任务中并提供有针对性的安全分析，Bifröst 培养了批判性评估技能；课堂部署（n=61）显示了对不安全代码的脆弱性，而干预后调查（n=21）表明学生对大语言模型输出的怀疑态度有所增加。
引用
@article{arxiv.2511.20878,
title = {Supporting Students in Navigating LLM-Generated Insecure Code},
author = {Jaehwan Park and Kyungchan Lim and Seonhye Park and Doowon Kim},
journal= {arXiv preprint arXiv:2511.20878},
year = {2025}
}
备注
7 pages