中文

面向用户生成虚假信息的透明标记策略性社会助推

计算机科学与博弈论 2025-03-11 v2 社会与信息网络

摘要

社交网络平台(SNP)严重依赖用户生成内容来吸引用户,但对内容供给的控制有限,从而导致虚假信息。作为应对措施,SNP实施了通过标记内容并影响用户对标记内容反应的策略来通知用户。人群层面的反应会对内容提供者产生社会助推,鼓励其提供更多真实内容。然而,在设计利用社会助推的标记时,SNP必须谨慎对待误检,因为误检会削弱其创造社会助推的能力。我们建立了一个贝叶斯说服分支过程,用于研究SNP在误检条件下的标记策略设计。虚假信息传播通过多类型分支过程建模,其中用户通过标记被说服给出正面/负面评论,从而影响虚假信息的传播。当转换到后验信念空间时,SNP的问题被简化为一个等式约束优化问题,其最优条件由拉格朗日刻画给出。关键发现是,SNP的最优策略是透明标记,尽管存在误检,该策略能助推内容提供者不生成虚假信息。

关键词

引用

@article{arxiv.2411.00825,
  title  = {Transparent Tagging for Strategic Social Nudges on User-Generated Misinformation},
  author = {Ya-Ting Yang and Tao Li and Quanyan Zhu},
  journal= {arXiv preprint arXiv:2411.00825},
  year   = {2025}
}

备注

This work has been submitted to the IEEE for possible publication