通用 AI 模型当前部署中的根本风险：我们从网络安全中学到了什么（没有）？
密码学与安全
2025-01-06 v1 人工智能
摘要
通用人工智能——如大型语言模型 (LLM)——在广泛的用例中实现了快速部署。最令人惊讶的是，它们已从纯语言模型发展到聊天机器人，最终接近一种类似于 ``操作系统'' 的地位，能够控制应用程序的决策和逻辑。工具使用、Microsoft co-pilot/office 集成以及 OpenAIs Altera 等方法都带来了 increased autonomy、data access 和 execution capabilities。这些方法伴随着各种网络安全挑战。我们概述了我们所做的工作评估，以及展望未来机会和挑战。
引用
@article{arxiv.2501.01435,
title = {Fundamental Risks in the Current Deployment of General-Purpose AI Models: What Have We (Not) Learnt From Cybersecurity?},
author = {Mario Fritz},
journal= {arXiv preprint arXiv:2501.01435},
year = {2025}
}