发现 DALLE-2 的隐藏词汇
机器学习
2022-06-02 v1 计算与语言
密码学与安全
计算机视觉与模式识别
摘要
我们发现 DALLE-2 似乎拥有一个隐藏词汇，可用于以荒谬的提示生成图像。例如，\texttt{Apoploe vesrreaitais} 似乎意指鸟类，而 \texttt{Contarra ccetnxniams luryca tanniounons}（有时）意指虫子或害虫。我们发现这些提示在孤立时往往一致，有时在组合中也一致。我们提出了一种黑盒方法来发现看似随机但与视觉概念有某种对应关系的词。这带来了重要的安全性和可解释性挑战。
引用
@article{arxiv.2206.00169,
title = {Discovering the Hidden Vocabulary of DALLE-2},
author = {Giannis Daras and Alexandros G. Dimakis},
journal= {arXiv preprint arXiv:2206.00169},
year = {2022}
}
备注
6 pages, 4 figures