从数字不信到编码诚实：生成式 AI 在信任商品市场中的实证研究

生成式 AI 正在改变专家服务的提供方式。本文采用一系列单次实验，量化大型语言模型（LLM）在 AI-AI、Human-Human、Human-AI 和 Human-AI-Human 专家市场中的行为、福利与分配后果。基于信任商品框架，其中专家对消费者最优服务拥有私有信息，我们发现 Human-Human 市场通常通过利他主义专家偏好和更高的消费者信任，实现更高的效率水平。值得注意的是，尽管 LLM 专家仍能获得显著高于人类专家的剩余价值——这以牺牲消费者剩余值为代价，暗示了可能激励有害 LLM 部署的不利激励。同时，多数人类专家在给定 Human-AI-Human 市场机会时选择依赖 LLM 代理，尤其是当他们对 LLM（社会）目标函数拥有自主权时。此处，大比例的专家优先考虑利益驱动的偏好，而非纯粹的自我利益。向消费者披露这些偏好可实现显著的效率提升，通过边缘化自利型 LLM 专家和人类专家。因此，在透明规则下，Human-AI-Human 市场超过 Human-Human 市场。然而在信息隐藏情况下，效率提升消失，不利的专家激励仍然存在。我们的结果阐明了在专家服务语境中扩散 LLM 的潜在机遇与风险，并提出若干监管挑战。一方面，LLM 在信息不对称存在时可能负面影响人类信任，并通过自动化淡化专家的他者导向偏好。另一方面，LLM 允许专家对其目标函数进行编码和沟通，从而减少信息不对称并提高效率。