面向基础模型时代的参与

对基础模型能力日益关注和投资的趋势使其有望影响广泛的公共服务。尽管如此，这些机会背后也存在风险——这些系统可能再现既有的权力不平衡，并对被边缘化社区造成不成比例的伤害。参与性方法有望通过赋予边缘化利益相关者行动力和决策权来实现替代。然而，现有的参与性AI/ML方法通常深植于具体情境——如何将这些方法应用于基础模型呢？这些模型本质上与具体情境脱节。我们的论文探讨了这一问题。首先，我们审视了纳入参与性措施的现有尝试。我们指出了参与性与规模性之间的张力，表明对于旨在普遍适用的基础模型，受影响社区难以实现有意义的塑造。在此基础上，我们发展了一套参与性基础模型蓝图，识别出更具体、面向应用的参与性机会。除了“基础”层，本框架提出“次层”概念——在此层，利益相关者发展共享的技术基础设施、规范和治理，以服务于具体领域；以及“表层”层——在此层，受影响社区塑造基础模型用于特定下游任务的用途。次层界定了需考虑的潜在伤害范围，并为社区提供更具体的 deliberation 和干预途径。与此同时，它通过规模化输入跨越相关用例，避免重复劳动。在临床护理、金融服务和新闻业等三个案例研究中，我们说明了多层模型如何优于仅在基础层进行干预，为参与性创造更有意义的机会。