识别并缓解生成式 AI 的安全风险
人工智能
2024-01-01 v4
摘要
每一项重大技术发明都会重新引发双重用途困境——新技术既可能被用于善，也可能被用于恶。生成式 AI（GenAI）技术，如大语言模型（LLMs）和扩散模型，已展现出非凡能力（例如上下文学习、代码补全、文本到图像生成与编辑）。然而，攻击者同样可以利用 GenAI 生成新攻击，并提升已有攻击的速度与效能。本文报告了在 Google 举办（由斯坦福大学和威斯康星大学麦迪逊分校协办）的关于 GenAI 所带来的双重用途困境研讨会的发现。本文并非旨在全面，而是试图综合研讨会中的一些有趣发现。我们讨论了社区在该课题上的短期与长期目标。我们希望本文既为该重要主题的探讨提供一个起点，也提出研究社区可致力解决的有趣问题。
引用
@article{arxiv.2308.14840,
title = {Identifying and Mitigating the Security Risks of Generative AI},
author = {Clark Barrett and Brad Boyd and Elie Burzstein and Nicholas Carlini and Brad Chen and Jihye Choi and Amrita Roy Chowdhury and Mihai Christodorescu and Anupam Datta and Soheil Feizi and Kathleen Fisher and Tatsunori Hashimoto and Dan Hendrycks and Somesh Jha and Daniel Kang and Florian Kerschbaum and Eric Mitchell and John Mitchell and Zulfikar Ramzan and Khawaja Shams and Dawn Song and Ankur Taly and Diyi Yang},
journal= {arXiv preprint arXiv:2308.14840},
year = {2024}
}