通过提示注入从ChatGPT窃取个人信息
密码学与安全
2024-06-07 v2 人工智能
计算与语言
计算机与社会
新兴技术
摘要
我们报告称，ChatGPT 4和4o容易受到一种提示注入攻击，该攻击允许攻击者窃取用户的个人数据。该攻击无需使用任何第三方工具即可实施，并且所有用户目前都受到影响。ChatGPT最近引入的记忆功能加剧了这一漏洞，该功能允许攻击者命令ChatGPT监控用户以获取所需的个人数据。
引用
@article{arxiv.2406.00199,
title = {Exfiltration of personal information from ChatGPT via prompt injection},
author = {Gregory Schwartzman},
journal= {arXiv preprint arXiv:2406.00199},
year = {2024}
}