生成式 AI 平台的安全性及其安全性
密码学与安全
2024-10-21 v1 人工智能
摘要
本白皮书强调了保护生成式人工智能 (genAI) 平台以及利用 genAI 提升网络安全的双重重要性。随着 genAI 技术的普及，其滥用可能带来重大风险，包括数据泄露、模型被篡改以及恶意内容生成。保障这些平台的安全性至关重要，以保护敏感数据、确保模型完整性并防止对抗性攻击。同时，genAI 也为增强安全性提供了机遇，通过自动化威胁检测、漏洞分析和事件响应。本白皮书探讨了围绕 genAI 系统构建稳健安全框架的策略，同时展示了 genAI 如何帮助组织预见、检测和缓解复杂网络威胁。
引用
@article{arxiv.2410.13899,
title = {Security of and by Generative AI platforms},
author = {Hari Hayagreevan and Souvik Khamaru},
journal= {arXiv preprint arXiv:2410.13899},
year = {2024}
}