反对‘softmax化’文化

人工智能正在混合文化。对‘文化’的评估正在显示大型 AI 模型在语言和文化方面正在同质化，使丰富的语言差异被平均化为通用表达。我称这种现象为‘softmax化文化’，这是当今人工智能评估面临的根本性挑战之一。改进和加强文化评估的努力是大型人工智能系统进行文化对齐的核心项目。本位置论文认为，机器学习（ML）和人机交互（HCI）的方法在评估方面受到限制。我提出了两个关键概念性转变。首先，除了在系统评估开始时询问‘什么是文化？’之外，我提出应以问题‘何时为文化？’为起点。其次，虽然我承认文化普遍存在的哲学主张，但挑战不仅仅是描述它们，而是要将它们置于具体事物的关系中。综合这两个概念性转变，邀请评估方法超越技术要求，走向更能响应文化复杂性的视角。