SCALEX：面向扩散模型的可扩展概念与潜在空间探索
机器学习
2025-11-24 v2 人工智能
摘要
图像生成模型经常编码社会偏见，包括与性别、种族和职业相关的刻板印象。现有分析扩散模型中这些偏见的方法要么狭隘地关注预定义类别，要么依赖于对潜在方向的解释。这些限制限制了可扩展性，并阻碍了发现细微或意想不到的模式。我们引入了SCALEX，一个用于可扩展和自动化探索扩散模型潜在空间的框架。SCALEX仅使用自然语言提示从H空间中提取语义上有意义的方向，实现了无需重新训练或标注的零样本解释。这使得能够跨任意概念进行系统比较，并大规模发现内部模型关联。我们展示了SCALEX检测职业提示中的性别偏见，对身份描述符之间的语义对齐进行排序，并在无监督的情况下揭示聚类概念结构。通过将提示直接链接到潜在方向，SCALEX使扩散模型中的偏见分析比以前的方法更具可扩展性、可解释性和可扩展性。
引用
@article{arxiv.2511.13750,
title = {SCALEX: Scalable Concept and Latent Exploration for Diffusion Models},
author = {E. Zhixuan Zeng and Yuhao Chen and Alexander Wong},
journal= {arXiv preprint arXiv:2511.13750},
year = {2025}
}
备注
Accepted to WACV2025