Vipera：面向大规模生成式文本到图像模型的系统化审计
人机交互
2025-03-17 v1
摘要
生成式文本到图像（T2I）模型因其偏见、冒犯性和错误信息等相关风险而广为人知。当前的 AI 审计方法在可扩展性和全面性方面面临挑战，而使审计员能够以结构化和有效的方式探索审计空间则更具挑战性。Vipera 采用包括场景图在内的多种视觉线索，以促进图像收集的意义构建，并启发审计员探索和分层组织审计标准。此外，它利用 LLM 驱动的建议来促进对未探索审计方向的探索。一项观察性用户研究证明了 Vipera 在帮助审计员组织其分析的同时参与多样化标准方面的有效性。
引用
@article{arxiv.2503.11113,
title = {Vipera: Towards systematic auditing of generative text-to-image models at scale},
author = {Yanwei Huang and Wesley Hanwen Deng and Sijia Xiao and Motahhare Eslami and Jason I. Hong and Adam Perer},
journal= {arXiv preprint arXiv:2503.11113},
year = {2025}
}
备注
Accepted to CHI Late-Breaking Work (LBW) 2025