面向安全自助式大语言模型探索的机构平台
密码学与安全
2025-02-25 v3 人工智能
计算与语言
摘要
本文介绍了由肯塔基大学应用人工智能中心开发的一个用户友好平台，旨在使大型定制语言模型（LLM）更易访问。通过利用多LoRA推理的最新进展，该系统高效地支持不同用户和项目的自定义适配器。本文概述了系统的架构和关键特性，包括数据集整理、模型训练、安全推理和基于文本的特征提取。我们阐述了使用基于智能体的方法建立租户感知计算网络，安全地将孤立的资源孤岛作为统一系统使用。该平台致力于提供安全的LLM服务，强调进程和数据隔离、端到端加密以及基于角色的资源认证。这一贡献符合简化对尖端AI模型和技术访问以支持科学发现的总体目标。
引用
@article{arxiv.2402.00913,
title = {Institutional Platform for Secure Self-Service Large Language Model Exploration},
author = {V. K. Cody Bumgardner and Mitchell A. Klusty and W. Vaiden Logan and Samuel E. Armstrong and Caroline N. Leach and Kenneth L. Calvert and Caylin Hickey and Jeff Talbert},
journal= {arXiv preprint arXiv:2402.00913},
year = {2025}
}
备注
10 pages 5 figures, 1 table