生成式AI 输出的方差减缓

生成式AI模型（如ChatGPT）将日益取代人类在各种重要任务中产生输出。尽管大量前期工作主要关注提高生成式AI模型相对于人类表现的平均性能，但关于生成式AI模型所产生输出方差显著减少的关注则相对有限。本篇视角稿展示了生成式AI模型本质上容易出现“回归均值”现象，即输出方差相对于真实分布方差趋于缩小。我们讨论了该现象在三个层面——社会层面、群体层面和个人层面——以及两个维度——物质维度和非物质维度上的潜在社会影响。最后，我们讨论了如何缓解负面影响的干预措施，考虑到服务提供方和用户的角色。总体而言，本篇视角稿旨在提高人们对生成式AI输出方差的重要性认识，并促进协作努力以应对由AI模型生成的输出方差缩小所提出的挑战。