将提示注入作为保留 GAI 图像描述中身份的工具

生成式 AI 风险，如偏见和缺乏代表性，影响的是不直接与 GAI 系统交互的人——即间接用户——但其内容会被这些系统处理。已描述了几种缓解对间接用户造成的伤害的方法，但大多数需要自上而下或外部干预。提示注入（prompt injections）作为一种新兴策略，提供了一种来自内部的替代方案：间接用户可通过其自身内容来缓解针对他们的伤害。我们的方案将提示注入不作为恶意攻击向量，而作为内容/图像所有者的抵抗工具。在本摘要中，我们演示了一种案例研究，旨在通过提示注入赋能间接用户，保留图像所有者的性别和残障身份，当图像被 GAI 描述时。