VEAT量化文本到视频生成器Sora中的隐含联想并揭示偏见缓解挑战
计算机与社会
2026-01-06 v1 人工智能
摘要
文本到视频（T2V）生成器如Sora引发了生成内容是否反映社会偏见的担忧。我们将嵌入-关联测试从单词和图像扩展到视频，通过引入视频嵌入关联测试（VEAT）和单类VEAT（SC-VEAT）。通过再现广泛使用的基线，包括隐含关联测试（IAT）场景和OASIS图像类别的关联方向和大小，验证了这些方法。我们随后量化了种族（非裔美国人 vs 欧裔美国人）和性别（女性 vs 男性）在17个职业和7个奖项中的情感价值（愉悦 vs 不愉悦）联想。Sora视频将欧裔美国人和女性与愉悦程度更相关（两者的d值均大于0.8）。效应大小与真实世界的人口统计分布相关：职业中男性和白人比例（r=0.93, r=0.83）以及奖项得主中男性和非非裔比例（r=0.88, r=0.99）。应用明确去偏化提示通常会降低效应大小的幅度，但可能适得其反：两种与非裔美国人相关的职业（清洁工、邮政员）在去偏化后变得更与非裔美国人相关。总之，这些结果表明，容易获取的T2V生成器实际上可能在不严格评估和负责任部署的情况下放大代表性伤害。
引用
@article{arxiv.2601.00996,
title = {VEAT Quantifies Implicit Associations in Text-to-Video Generator Sora and Reveals Challenges in Bias Mitigation},
author = {Yongxu Sun and Michael Saxon and Ian Yang and Anna-Maria Gueorguieva and Aylin Caliskan},
journal= {arXiv preprint arXiv:2601.00996},
year = {2026}
}
备注
The International Association for Safe & Ethical AI (IASEAI)