训练与交易：参数市场的基础

组织机构通常各自独立训练大型模型。这种方式成本高昂且耗时，尤其对于大规模基础模型而言。这种垂直生产模式已知是次优的。受这一经济学洞见启发，我们探讨是否可能通过像交易市场商品一样交易模型的组成部分（即权重集合）来利用他人的专业知识。尽管近期在模型对齐与插值方面的进展表明这样做或许是可行的，但要创建可行的参数市场，必须回答若干基本问题。在本工作中，我们处理这些基本问题，提出一个包含市场运作所需基础设施的框架，研究交换参数的策略，并为智能体提供参数变现的手段。令人兴奋的是，与从头训练孤立模型的智能体相比，我们表明即使在竞争性环境中，通过使用市场也可能实现互利共赢。这表明参数市场的概念可能成为未来改进大规模模型训练的有用范式。