人工智能生成偏见性科学家图像但也能检测它们：绘制科学家测试的初始研究
物理教育
2025-04-29 v1
摘要
人们对公众如何看待科学家一直是科学教育者关注的议题。虽然存在许多影响因素，但近期生成式人工智能（AI）模型的影响尤为值得注意，因为这些模型正快速改变人们获取信息的方式。本报告提出了 pilot 研究，考察现代生成式 AI 如何呈现科学家形象，方法采用绘制科学家测试（DAST）。该研究数据为使用 Midjourney v 6.1 生成的 1,100 张科学家图像。其中 100 张图像由科学教育学者根据 DAST 评分标准进行分析。利用该数据，研究者通过 prompt engineering 指示 gpt-4.1-mini 自动分析剩余 1,000 张图像。结果显示，生成式 AI 在经研究者分析的 100 张图像中呈现了偏见性科学家形象，如实验服（97%）、眼镜（97%）、男性性别（81%）和欧洲人（85%）。然而，gpt-4.1-mini 也能以 79% 的准确率在同一 100 张图像中检测到这些偏见。gpt-4.1-mini 还对剩余 1,000 张图像进行分析，发现其中也包含偏见特征（实验服：97%，眼镜：95%，男性性别：82%，欧洲人：67%）。就此而言，讨论了当今生成式 AI 中所蕴含偏见及其对科学教育的影响。研究者计划采用更完善的方法进行更全面的未来研究。
引用
@article{arxiv.2504.19005,
title = {Artificial Intelligence Generates Stereotypical Images of Scientists but Can Also Detect Them: A Pilot Study Using the Draw-A-Scientist Test},
author = {Gyeonggeon Lee},
journal= {arXiv preprint arXiv:2504.19005},
year = {2025}
}