Vipera：融合视觉与 LLM 驱动的文本到图像生成 AI 系统系统化审计
人机交互
2026-02-04 v2
摘要
尽管文本到图像生成 AI 系统的能力日益提升，但它们已知会产生偏见、冒犯且其他问题输出。虽然近期进展支持生成 AI 的测试和审计，但现有审计方法仍面临在结构化方式上探索 AI 生成输出广阔空间的挑战。为填补这一差距，我们与五位 AI 审计员进行了形式化研究，提炼出五个设计目标以支持系统化 AI 审计。基于这些见解，我们开发了 Vipera，一种交互式审计界面，采用多种视觉线索包括场景图来促进图像感知并激发审计员探索和层次组织审计准则的能力。此外，Vipera 利用 LLM 驱动的建议来促进对未探索审计方向的探索。通过针对 24 名有 AI 审计经验的参与者进行的受控实验，我们展示了 Vipera 在帮助审计员导航大型 AI 输出空间、组织分析同时与多样化准则互动方面的有效性。
引用
@article{arxiv.2510.05742,
title = {Vipera: Blending Visual and LLM-Driven Guidance for Systematic Auditing of Text-to-Image Generative AI},
author = {Yanwei Huang and Wesley Hanwen Deng and Sijia Xiao and Motahhare Eslami and Jason I. Hong and Arpit Narechania and Adam Perer},
journal= {arXiv preprint arXiv:2510.05742},
year = {2026}
}
备注
17 pages, 8 figures; Accepted by CHI 2026