中文

基于角色安全和清楚等级的企业大型语言模型应用简单架构:使用检索增强生成或混合专家

人工智能 2024-07-10 v1

摘要

本研究提出了一个用于大型语言模型(LLM)企业应用的简单架构,支持基于角色的安全和北约安全等级。我们的方案旨在解决当前 LLM 在处理安全和信息访问方面的局限性。该提议架构可用于利用检索增强生成(RAG)和混合专家模型(MoE)的微调。它可仅用于 RAG,仅用于 MoE 或两者结合使用。通过用户的角色和安全清楚等级,对 RAG 中的文档和 MoE 中的专家进行过滤。从而防止信息泄露。

关键词

引用

@article{arxiv.2407.06718,
  title  = {A Simple Architecture for Enterprise Large Language Model Applications based on Role based security and Clearance Levels using Retrieval-Augmented Generation or Mixture of Experts},
  author = {Atilla Özgür and Yılmaz Uygun},
  journal= {arXiv preprint arXiv:2407.06718},
  year   = {2024}
}