面向 2030 年的 Saltzer & Schroeder 原则：AI 世界中的安全工程原则
软件工程
2024-07-09 v1
摘要
编写安全代码具有挑战性，因此可以预期，随着 ChatGPT 和 GitHub Copilot 等代码生成式 AI 工具的发布，开发者将使用这些工具来执行安全任务并使用安全 API。然而，ChatGPT 生成的代码安全吗？日常的软件或安全工程师如何能够辨别？随着下一个十年的到来，我们预期代码生成式 AI 工具将被更广泛地采用，并看到开发者使用它们来编写安全代码。为此，我们需要确保安全设计。在本文中，我们回顾了 Saltzer & Schroeder 的安全设计原则，因为这些原则将需要演变和适应 AI 生成代码世界所带来的挑战。
引用
@article{arxiv.2407.05710,
title = {Saltzer & Schroeder for 2030: Security engineering principles in a world of AI},
author = {Nikhil Patnaik and Joseph Hallett and Awais Rashid},
journal= {arXiv preprint arXiv:2407.05710},
year = {2024}
}