语境决定意义:基于风险分层用例轮廓审计文本到图像生成中的性别偏见
计算机与社会
2026-05-14 v1 人工智能
摘要
文本到图像(T2I)生成模型正在用于生产教育、媒体及公共传播内容,并开始集成到更高影响力的管道中。由于生成图像倾向于强化刻板印象,通过“默认”表征实现代表性消除,并塑造某些角色归属感,越来越多的工作提出了量化T2I输出中性别偏见的指标。然而,现有评估仍然碎片化。指标往往在没有共享视角的情况下报告,这些视角缺乏对其测度、假设及如何在不同部署情境下解释结果的清晰说明。这限制了性别偏见测度在技术审计和新兴治理讨论中的实用性。我们提出了一个面向性别偏见的风险对齐审计框架,由三个组成部分构成,将风险类别、评估指标与伤害联系起来。首先,我们识别出与欧盟AI法案风险类别相匹配的风险分层用例轮廓,以动机为为何在不同部署情境和利益相关方暴露下审计期望可能有所不同。其次,我们构建了一个指标目录,整合性别偏见评估方法,并将其组织为三个测度类别:性别预测、嵌入相似性和下游任务。最后,我们引入一种伤害类型学,将情境依赖的伤害类别(如表征、服务质量)映射到特定的风险分层情境。最后,我们提出了THUMB卡(Text-to-image Harms-informed Use-case-aligned Metrics of gender Bias),通过纳入情境、情景和偏见表现、伤害假设及审计策略,帮助系统化地制定审计方案。
引用
@article{arxiv.2605.13113,
title = {Context Matters: Auditing Gender Bias in T2I Generation through Risk-Tiered Use-Case Profiles},
author = {Jose Luna and Yankun Wu and Xiaofei Xie and Noa Garcia},
journal= {arXiv preprint arXiv:2605.13113},
year = {2026}
}
备注
FAccT 2026