LLM语义信号博弈与机制设计:系统性盲区、感知塑造与思维动态
计算机科学与博弈论
2026-06-27 v1 人工智能
多智能体系统
摘要
大语言模型(LLM)日益通过自然语言中介战略交互,使得语义控制成为通信与欺骗的关键要素。本文发展了一种语义信号博弈,其中发送者选择语义控制,LLM 生成随机消息,接收者使用依赖感知的评分机制评估消息。接收者感知被建模为一种类型,决定了哪些语言特征被感知并用于推理,从而提供了系统性盲区的形式化模型。该框架连接了基于提示的控制、统计检测和博弈论均衡分析。聚合消息分数的高斯近似使得似然比决策规则成为可能,而完美贝叶斯纳什均衡刻画了战略行为。本文进一步发展了机制设计方法,以重塑接收者感知、惩罚欺骗性语义控制并修改接收者群体,从而诱导良性的混同均衡。数值实验验证了高斯近似,量化了感知排序效应,分析了自适应对手下的思维动态,并展示了感知塑造和护栏成本如何减少成功的网络钓鱼攻击。所提出的框架为分析智能体 AI 系统中基于语言中介的战略交互提供了有原则的基础,并为设计鲁棒且安全的人机通信提供了新工具。
引用
@article{arxiv.2606.29113,
title = {LLM Semantic Signaling Game and Mechanism Design: Systematic Blindness, Awareness Shaping, and Mindset Dynamics},
author = {Quanyan Zhu},
journal= {arXiv preprint arXiv:2606.29113},
year = {2026}
}