学习信任：人类如何精准调整 AI 置信度信号
人机交互
2026-03-25 v1 人工智能
摘要
有效的人机协作需要恰当的依赖程度，但当代 AI 系统常常存在准确性不足或过度自信的系统性失调问题。我们研究人类是否可以通过反复经验学习来精准调整对 AI 置信度信号的判断。在一次样本数为 200 的行为实验中，参与者在四种 AI 校准情境下预测 AI 的正确性：标准模式、过度自信、低估自信以及一种反直觉的“逆置信心”映射。结果显示，所有情境下的参与者在 50 次试验中都表现出稳健的学习效果，准确率、判别能力和校准一致性均显著提升。我们提出了一种计算模型，采用线性对数几率 (linear-in-log-odds, LLO) 转换和 Rescorla-Wagner 学习规则来解释这些动态过程。模型揭示，人类通过更新基线信任水平和置信度灵敏度来适应，采用非对称学习速率以优先处理最具信息性的错误。虽然人类能够补偿单调性的置信失调，但在逆置信心情境下发现显著的边界问题，其中相当比例的参与者难以克服初始归纳偏见。这些发现提供了人类如何通过经验调整对 AI 置信度信号信任的机制性解释。
引用
@article{arxiv.2603.22634,
title = {Learning to Trust: How Humans Mentally Recalibrate AI Confidence Signals},
author = {ZhaoBin Li and Mark Steyvers},
journal= {arXiv preprint arXiv:2603.22634},
year = {2026}
}