生成式 AI 的选择性响应策略
人工智能
2025-06-10 v2 计算机科学与博弈论
社会与信息网络
摘要
生成式 AI (GenAI) 的兴起显著影响了像 Stack Overflow 这样的人类论坛，这些论坛是生成高质量数据所必不可少的。这会创建一个负面反馈环路，阻碍 GenAI 系统的发展，因为这些系统依赖此类数据才能提供准确的响应。本文提供一种可能的补救措施：一种我们称为选择性响应的新策略。选择性响应意味着 GenAI 可以战略性地对涉及新兴主题和新技术查询提供不准确（或保守的）响应，从而引导用户使用像 Stack Overflow 这样的人类论坛。我们表明，选择性响应可能对数据生成过程产生叠加效应，长期内增加 GenAI 的收益和用户福利。从算法角度看，我们提出一种近似最优方法，以在社会福利约束下最大化 GenAI 的收益。从监管角度看，我们推导选择性响应改善福利的充分必要条件。
引用
@article{arxiv.2502.00729,
title = {Selective Response Strategies for GenAI},
author = {Boaz Taitler and Omer Ben-Porat},
journal= {arXiv preprint arXiv:2502.00729},
year = {2025}
}