FailureAtlas：通过主动探索绘制T2I模型失效景观
计算机视觉与模式识别
2025-09-29 v1
摘要
静态基准已为比较Text-to-Image（T2I）模型提供了宝贵的基础，但其被动设计在诊断力上有限，难以揭示系统性失效的完整景观或孤立其根本原因。我们认为需要一种补充范式：主动探索。我们引入FailureAtlas，这是第一个旨在大规模探索T2I模型失效景观的框架。FailureAtlas将错误发现建模为寻找最小、失效诱导概念的结构化搜索。虽然这一问题在计算上极具挑战性，但我们通过新颖的加速技术使其变得可行。当应用于Stable Diffusion模型时，我们的方法发现了数十万以前未知的错误切片（仅SD1.5中即超过247,000个），并提供了首个大规模证据将这些失效与训练集中的数据稀缺性相联系。通过为深入模型审计提供原则且可扩展的引擎，FailureAtlas确立了一种新的、以诊断为导向的方法，旨在指导开发更健壮的生成式AI。该代码已公开发布，地址为https://github.com/cure-lab/FailureAtlas
引用
@article{arxiv.2509.21995,
title = {FailureAtlas:Mapping the Failure Landscape of T2I Models via Active Exploration},
author = {Muxi Chen and Zhaohua Zhang and Chenchen Zhao and Mingyang Chen and Wenyu Jiang and Tianwen Jiang and Jianhuan Zhuo and Yu Tang and Qiuyong Xiao and Jihong Zhang and Qiang Xu},
journal= {arXiv preprint arXiv:2509.21995},
year = {2025}
}