审视 ChatGPT-4o 多模态中的性别与内容偏见
计算机与社会
2024-12-02 v1 人工智能
计算与语言
人机交互
其他统计学
摘要
本研究探讨了ChatGPT-4o多模态内容生成的现状，突出其对性内容和裸露与暴力及药物相关主题处理之间的显著差异。详细分析表明，ChatGPT-4o始终会审查性内容和裸露，而对暴力和药物使用表现宽容。更进一步，显著的性别偏见浮现，女性专指内容面临更严格的管控。这种差异可能源于媒体对过去AI争议的广泛关注和公众反弹，促使科技公司对敏感议题实施严格指南以保护其声誉。我们的发现强调，AI系统需超越单纯的政治正确，树立真正的伦理标准和问责制。本研究促进了对AI驱动语言和多模态模型偏见的理解，呼吁更平衡和伦理的内容监管实践。
关键词
引用
@article{arxiv.2411.19140,
title = {Examining Multimodal Gender and Content Bias in ChatGPT-4o},
author = {Roberto Balestri},
journal= {arXiv preprint arXiv:2411.19140},
year = {2024}
}
备注
17 pages, 4 figures, 3 tables. Conference: "14th International Conference on Artificial Intelligence, Soft Computing and Applications (AIAA 2024), London, 23-24 November 2024" It will be published in the proceedings "David C. Wyld et al. (Eds): IoTE, CNDC, DSA, AIAA, NLPTA, DPPR - 2024"