语言模型可缓解信息市场中的不对称性
人工智能
2024-03-22 v1 计算与语言
计算机科学与博弈论
机器学习
多智能体系统
社会与信息网络
摘要
本文探讨信息市场中买方的“检验悖论”。该悖论在于：买方需要获取信息以判断其价值，而卖方则需限制访问以防信息被盗用。为研究此问题，我们引入了一个开源的模拟数字市场，其中由语言模型驱动的智能代理代表外部参与者买卖信息。支撑该市场的核心机制是代理的双重能力：它们不仅能评估特权信息的质量，还具备遗忘能力。这种诱导遗忘的能力使卖方能够临时授予对专有信息的访问权限，从而在让代理准确判断信息与特定查询或任务的相关性的同时，显著降低未经授权留存信息的风险。为取得良好表现，代理必须做出理性决策，通过生成的子查询策略性地探索市场，并综合所购信息给出答案。具体而言，我们的实验 (a) 揭示了语言模型中导致非理性行为的偏差，并评估了缓解这些偏差的技术，(b) 研究了在信息商品情境下价格如何影响需求，以及 (c) 表明检验和更高的预算均能带来更高质量的结果。
引用
@article{arxiv.2403.14443,
title = {Language Models Can Reduce Asymmetry in Information Markets},
author = {Nasim Rahaman and Martin Weiss and Manuel Wüthrich and Yoshua Bengio and Li Erran Li and Chris Pal and Bernhard Schölkopf},
journal= {arXiv preprint arXiv:2403.14443},
year = {2024}
}