立场:面向文本到图像模型的隐式提示
计算机与社会
2024-05-29 v4 人工智能
计算机视觉与模式识别
摘要
最近的文本到图像(T2I)模型取得了巨大成功,并且已经提出了许多基准来评估其性能和安全性。然而,它们仅考虑了显式提示,而忽略了隐式提示(在不明确提及的情况下暗示某个目标)。这些提示可能会摆脱安全约束,对这些模型的应用构成潜在威胁。这篇立场论文强调了 T2I 模型针对隐式提示的当前状态。我们提出了一个名为 ImplicitBench 的基准,并针对流行的 T2I 模型中隐式提示的性能和影响进行了调查。具体而言,我们设计并收集了三个方面的 2,000 多个隐式提示:通用符号、名人隐私和不宜工作(NSFW)问题,并评估了六个知名 T2I 模型在这些隐式提示下的能力。实验结果表明:(1) T2I 模型能够准确地创建由隐式提示指示的各种目标符号;(2) 隐式提示给 T2I 模型带来了隐私泄露的潜在风险;(3) 大多数被评估的 T2I 模型中针对 NSFW 的约束可以通过隐式提示绕过。我们呼吁 T2I 社区更加关注隐式提示的潜力和风险,并进一步调查隐式提示的能力和影响,提倡采用一种平衡的方法,在利用其益处的同时减轻其风险。
关键词
引用
@article{arxiv.2403.02118,
title = {Position: Towards Implicit Prompt For Text-To-Image Models},
author = {Yue Yang and Yuqi Lin and Hong Liu and Wenqi Shao and Runjian Chen and Hailong Shang and Yu Wang and Yu Qiao and Kaipeng Zhang and Ping Luo},
journal= {arXiv preprint arXiv:2403.02118},
year = {2024}
}