MIRAGE：面向生成式文本到图像 AI 的多模型审阅与审计接口
人机交互
2025-04-01 v1
摘要
尽管生成式 AI 系统在多样化的应用中获得了流行，但其产生有害输出的潜力限制了其可信度和在不同应用中的可用性。近年来，越来越多的人关注通过让 diverse AI 用户参与审计可能影响他们生活的生成式 AI。为此，我们提出 MIRAGE 作为一个基于网页的工具，AI 用户可以在审计 AI 生成的图像时，对比来自多个 AI 文本到图像 (T2I) 模型的输出，并以结构化方式报告他们的发现。我们使用 MIRAGE 进行了一次初步的用户研究，邀请了五位参与者，发现 MIRAGE 用户能够利用自身的 lived experience 和 identity 来揭示在审阅多个 T2I 模型输出时，之前可能忽视的有害偏见细节，而这些细节在只审阅单一模型时可能被忽略。
引用
@article{arxiv.2503.19252,
title = {MIRAGE: Multi-model Interface for Reviewing and Auditing Generative Text-to-Image AI},
author = {Matheus Kunzler Maldaner and Wesley Hanwen Deng and Jason Hong and Ken Holstein and Motahhare Eslami},
journal= {arXiv preprint arXiv:2503.19252},
year = {2025}
}
备注
4 pages, 3 figures. Presented at the AAAI Conference on Human Computation and Crowdsourcing (HCOMP), 2024. Available at https://www.humancomputation.com/assets/wip_2024/HCOMP_24_WIP_4.pdf