多目标学习如何降低市场准入门槛：在安全与性能之间的权衡
机器学习
2024-09-06 v1 计算机与社会
综合经济学
经济学
机器学习
摘要
大型语言模型及其他大规模机器学习（ML）模型的新兴市场似乎呈现出市场集中现象，这引发了人们担忧是否存在不可逾越的准入壁垒。本文从经济和算法两个角度研究此问题，聚焦于一种可降低准入壁垒的现象。具体而言，既有公司除非其模型足够符合安全目标，否则面临声誉受损风险；而新公司更容易避免声誉受损。为正式研究此问题，我们定义了一个多目标高维回归框架，用于刻画声誉受损，并刻画了新公司进入市场所需的数据点数量。我们的结果表明，多目标考虑在根本上可以显著降低准入壁垒——所需的数据点数量远小于既有公司的数据集规模。为证明这些结果，我们发展了高维线性回归在多目标环境下的扩展规律，表明当数据集规模较大时，扩展速率会变慢，这可能是独立的兴趣。
引用
@article{arxiv.2409.03734,
title = {Safety vs. Performance: How Multi-Objective Learning Reduces Barriers to Market Entry},
author = {Meena Jagadeesan and Michael I. Jordan and Jacob Steinhardt},
journal= {arXiv preprint arXiv:2409.03734},
year = {2024}
}