面向中小企业的 LLM-as-a-Service 安全保障：分布式聊天机器人部署平台的工业案例研究
分布式、并行与集群计算
2026-01-23 v1 密码学与安全
摘要
基于大型语言模型 (LLM) 的问答系统为中小企业自动化客户支持和内部知识访问提供了巨大潜力，然而由于基础设施成本、工程复杂性和安全风险，特别是在基于检索增强生成 (RAG) 的场景下，其实际部署仍具挑战性。本文提出了一种开源、多租户平台的工业案例研究，该平台使中小企业能够通过无代码工作流部署定制的基于 LLM 的支持聊天机器人。该平台建立在跨越异构低成本机器并通过加密覆盖网络互连的分布式轻量级 k3s 集群之上，在实施基于容器的隔离和每租户数据访问控制的同时，实现了高性价比的资源池化。此外，该平台集成了针对基于 RAG 的聊天机器人中提示注入攻击的实用平台级防御，将近期提示注入研究的见解转化为可部署的安全机制，而无需模型重训练或企业级基础设施。我们通过真实的电子商务部署评估了所提出的平台，证明了在中小企业面临的现实成本、运营和安全约束下，可以实现安全高效的基于 LLM 的聊天机器人服务。
引用
@article{arxiv.2601.15528,
title = {Securing LLM-as-a-Service for Small Businesses: An Industry Case Study of a Distributed Chatbot Deployment Platform},
author = {Jiazhu Xie and Bowen Li and Heyu Fu and Chong Gao and Ziqi Xu and Fengling Han},
journal= {arXiv preprint arXiv:2601.15528},
year = {2026}
}
备注
Accepted by AISC 2026