基于角色安全和清楚等级的企业大型语言模型应用简单架构:使用检索增强生成或混合专家
人工智能
2024-07-10 v1
摘要
本研究提出了一个用于大型语言模型(LLM)企业应用的简单架构,支持基于角色的安全和北约安全等级。我们的方案旨在解决当前 LLM 在处理安全和信息访问方面的局限性。该提议架构可用于利用检索增强生成(RAG)和混合专家模型(MoE)的微调。它可仅用于 RAG,仅用于 MoE 或两者结合使用。通过用户的角色和安全清楚等级,对 RAG 中的文档和 MoE 中的专家进行过滤。从而防止信息泄露。
引用
@article{arxiv.2407.06718,
title = {A Simple Architecture for Enterprise Large Language Model Applications based on Role based security and Clearance Levels using Retrieval-Augmented Generation or Mixture of Experts},
author = {Atilla Özgür and Yılmaz Uygun},
journal= {arXiv preprint arXiv:2407.06718},
year = {2024}
}