揭示大语言模型在真实环境中的部署全景：一项实证研究
密码学与安全
2025-08-27 v2 人工智能
软件工程
摘要
大语言模型（LLM）越来越多地通过开源和商业框架进行部署，使个人和组织能够自托管先进的LLM能力。随着LLM部署变得普遍，尤其是在工业界，确保其安全可靠运行已成为一个关键问题。然而，不安全的默认设置和错误配置常常将LLM服务暴露在公共互联网上，带来严重的安全和系统工程风险。本研究对面向公众的LLM部署进行了大规模的实证调查，重点关注服务的普及性、暴露特征、系统性漏洞及相关风险。通过互联网范围的测量，我们识别出跨15个框架的320,102个面向公众的LLM服务，并提取了158个独特的API端点，根据功能和安全风险将其分为12个功能组。我们的分析发现，超过40%的端点使用明文HTTP，超过210,000个端点缺乏有效的TLS元数据。API暴露情况高度不一致：一些框架，如Ollama，对超过35%的未认证API请求做出了响应，其中约15%泄露了模型或系统信息，而其他框架则实施了更严格的控制。我们观察到不安全协议、糟糕的TLS配置以及对关键操作的未认证访问的广泛使用。这些安全风险，如模型泄露、系统入侵和未授权访问，普遍存在，并凸显了采用默认安全框架和更强部署实践的必要性。
引用
@article{arxiv.2505.02502,
title = {Unveiling the Landscape of LLM Deployment in the Wild: An Empirical Study},
author = {Xinyi Hou and Jiahao Han and Yanjie Zhao and Haoyu Wang},
journal= {arXiv preprint arXiv:2505.02502},
year = {2025}
}