研究从程序员到程序的偏差传递

人们普遍认同机器偏差的一个来源是算法所训练数据集内部的特性，即数据不足以支撑泛化推断。然而，我们假设文献中迄今未阐明的另一种“机制”也可能对机器偏差负责，即偏差可能源自（i）程序员的文化背景（如教育或工作领域），或（ii）情境化编程环境（如软件需求或开发工具）。结合实验性与比较性设计，我们研究了文化隐喻与情境隐喻的影响，并检验其中每一种是否会从程序员“传递”到程序，从而构成机器偏差。结果表明（i）文化隐喻影响程序员的选择，且（ii）“诱导”的情境隐喻可用于调节或加剧文化隐喻的影响。这支持了我们的假设：自动化系统中的偏差并非总源自机器训练数据内部。相反，机器也可能通过将文化隐喻转入编程过程，来“复制”和“再生产”程序员文化背景中的偏差。对学术界与专业实践的启示从微观编程层面延伸到宏观国家法规或教育层面，并涵盖所有运行基于软件系统的社会领域，例如流行的基于 AI 的自动化决策支持系统。