SecGenAI：面向澳大利亚国家关键技术领域的云端生成式 AI 应用安全框架
密码学与安全
2024-07-02 v1 人工智能
计算机与社会
机器学习
摘要
生成式 AI (GenAI) 技术的快速发展为澳大利亚关键技术领域带来了变革性机遇，同时也带来了独特的安全挑战。本文提出了 SecGenAI，一套针对基于云端的 GenAI 应用的综合性安全框架，重点关注检索增强生成 (RAG) 系统。SecGenAI 解决功能、基础设施和治理要求，集成端到端安全分析以生成强调数据隐私、安全部署和共享责任模型的规格。符合澳大利亚隐私原则、AI伦理原则，以及澳大利亚网络安全中心和数字转型局的指导方针，SecGenAI 缓解了数据泄露、对抗性攻击和模型反演等威胁。该框架的新颖方法结合了先进的机器学习技术与健壮的安全措施，确保符合澳大利亚法规，同时提升 GenAI 系统的可靠性和可信度。本研究为智能系统领域提供了可操作的策略，以在产业中安全实施 GenAI，促进 AI 应用的创新，同时维护国家利益。
引用
@article{arxiv.2407.01110,
title = {SecGenAI: Enhancing Security of Cloud-based Generative AI Applications within Australian Critical Technologies of National Interest},
author = {Christoforus Yoga Haryanto and Minh Hieu Vu and Trung Duc Nguyen and Emily Lomempow and Yulia Nurliana and Sona Taheri},
journal= {arXiv preprint arXiv:2407.01110},
year = {2024}
}
备注
10 pages, 4 figures, 9 tables, submitted to the 2024 11th International Conference on Soft Computing & Machine Intelligence (ISCMI 2024)