生成式AI滥用：滥用 tactics 的分类法及来自真实世界数据的洞察
人工智能
2024-06-24 v2
摘要
生成式、多模态人工智能(GenAI)具有跨行业变革性潜力，但其滥用也带来显著风险。先前的研究已揭示了高级AI系统被用于恶意目的的潜力。然而，我们仍缺乏对GenAI模型在实际中如何被具体利用或滥用，以及攻击者所采用的具体策略的了解。在本文中，我们提出了GenAI滥用 tactics 的分类法，依据现有学术文献以及对2023年1月至2024年3月期间约200起滥用事件的定性分析。通过这一分析，我们阐明了该时期滥用中的关键和新模式，包括潜在动机、策略，以及攻击者如何在野外跨模态（例如图像、文本、音频、视频）利用和滥用系统能力的方式。
引用
@article{arxiv.2406.13843,
title = {Generative AI Misuse: A Taxonomy of Tactics and Insights from Real-World Data},
author = {Nahema Marchal and Rachel Xu and Rasmi Elasmar and Iason Gabriel and Beth Goldberg and William Isaac},
journal= {arXiv preprint arXiv:2406.13843},
year = {2024}
}