AI 的人类学习
强关联电子
2025-10-08 v3 统计力学
高能物理 - 理论
数学物理
math.MP
摘要
我们研究了人类投影（Human Projection, HP）：人们倾向于使用与人类相同的框架来评估 AI —— 将任务难度和错误合理性等特征视为整体能力的诊断指标。我们形式化了 HP 及其对均衡采用产生的影响，进行实验测试其预测。首先，人们将人类难度投射到 AI 上，对人类容易的任务高估绩效，对人类困难的任务低估绩效，对容易失败的情形过度更新，对困难成功的情况低估更新——这导致在 AI 绩效呈锯齿状而非人类有序时出现系统性误估。其次，HP 通过单一能力指数解释观察到的绩效，导致即使 AI 在仅部分任务上战胜人类，仍会出现全或无采用的行为；实验表明，剥离 AI 人类化线索后，会削弱跨任务的泛化并减少过度采用的现象。最后，一个关于育儿建议聊天机器人的现场实验显示，缺乏人类合理性的错误会导致信任和未来参与度的更大下降。人类化的 AI 设计可能放大 HP，导致信念错位并扭曲采纳。
引用
@article{arxiv.2406.05407,
title = {Exact quantization of topological order parameter in SU($N$) spin models, $N$-ality transformation and ingappabilities},
author = {Hang Su and Yuan Yao and Akira Furusaki},
journal= {arXiv preprint arXiv:2406.05407},
year = {2025}
}
备注
6 pages