信任治理：面对弱真理信号的集体自我纠正社会机制
计算机与社会
2026-03-04 v1 人工智能
计算与语言
多智能体系统
社会与信息网络
摘要
在线平台越来越依赖意见聚合来分配现实世界的注意力和资源，但常见信号如点击投票或资本加权承诺容易被放大，往往跟踪可见性而非可靠性。这使得在弱真理信号、噪声或延迟反馈、早期人气激增以及战略操纵的情况下，集体判断变得脆弱。我们提出信任治理（CG），一种通过学习哪些代理人和观点持续跟踪演变中的公共证据来重新分配影响力的机制。CG 为代理人和观点维护动态信任得分，依据信任得分加权的 endorsement 来更新观点影响力，基于支持的观点的长期绩效来更新代理人信任得分，奖励早期和持续地与新兴证据保持一致，同时过滤短暂噪声。我们在 POLIS 中评估了 CG，这是一个模拟耦合信念动力学和下游反馈的社会物理仿真环境。在初始多数误导、观察噪声和污染以及虚假信息冲击等情景下，CG 在投票基线、赌注加权基线和无治理基线之外，表现出更快地恢复真实状态、减少锁定效应和路径依赖、以及在对抗压力下的鲁棒性。我们的实现和实验脚本已公开于 https://github.com/Wanying-He/Credibility_Governance。
引用
@article{arxiv.2603.02640,
title = {Credibility Governance: A Social Mechanism for Collective Self-Correction under Weak Truth Signals},
author = {Wanying He and Yanxi Lin and Ziheng Zhou and Xue Feng and Min Peng and Qianqian Xie and Zilong Zheng and Yipeng Kang},
journal= {arXiv preprint arXiv:2603.02640},
year = {2026}
}