大语言模型时代的安全分析：基于ChatGPT的STPA案例研究
计算与语言
2025-02-14 v3 人工智能
计算机与社会
软件工程
摘要
安全分析能否利用大语言模型（LLMs）？一项案例研究探讨了将系统理论过程分析（STPA）应用于自动紧急制动（AEB）与电力需求侧管理（DSM）系统并使用ChatGPT。我们考察了协作模式、输入语义复杂度与提示准则如何影响STPA结果。对比结果表明，在无人工干预下使用ChatGPT可能因可靠性相关问题而不充分，但经精心设计，其可能优于人类专家。在改变输入语义复杂度或使用常见提示准则时未发现统计显著差异，这表明有必要开发领域特定的提示工程。我们还强调了未来挑战，包括对LLM可信度的担忧，以及该领域标准化与监管的必要性。
引用
@article{arxiv.2304.01246,
title = {Safety Analysis in the Era of Large Language Models: A Case Study of STPA using ChatGPT},
author = {Yi Qi and Xingyu Zhao and Siddartha Khastgir and Xiaowei Huang},
journal= {arXiv preprint arXiv:2304.01246},
year = {2025}
}
备注
Under Review