中文

人类-人工智能系统中的认知放大与认知委托:一个指标框架

人工智能 2026-03-20 v1

摘要

人工智能正日益嵌入人类决策中。在某些情况下,它增强了人类的推理能力。在其他情况下,它促成了对人类能力的过度依赖。本文引入一个概念和数学框架,以区别认知放大(即AI提升混合人类-人工智能绩效,同时保持人类专业知识)与认知委托(即推理逐步外包给AI系统,风险导致人类能力长期衰退)。我们定义四个操作指标:认知放大指数(Cognitive Amplification Index,即CAI星),衡量超越最佳单体代理的协作收益;依赖比率(Dependency Ratio,即D)和人类依赖指数(Human Reliance Index,即HRI),量化AI在混合输出中的结构性主导地位;以及人类认知漂移率(Human Cognitive Drift Rate,即HCDR),捕捉自主人类绩效的时序消退或维持。总的来说,这些量组成品牌人类-人工智能系统,用以衡量即时混合绩效和长期认知可持续性。我们通过NetLogo中的基于代理的仿真进行了框架的验证,仿真覆盖三个依赖 regime 和多种依赖与衰退配置。结果区分了恒变AI主导的委托、人类保留但绩效较弱的互动,以及接近AI基准但结构上仍依赖的中间边界 regime。在所有测试配置下,没有任何 regime 实现了真正的放大。对atroph parameter 的受限优化显示,降低atroph 可提高保留的人类能力、协作收益和依赖结构,但即使为零atroph也不产生正的协作收益。因此,该框架为评估人类-人工智能系统是否以方式良好地保留人类能力提供了实用工具。

关键词

引用

@article{arxiv.2603.18676,
  title  = {MANAR: Memory-augmented Attention with Navigational Abstract Conceptual Representation},
  author = {Zuher Jahshan and Ben Ben Ishay and Leonid Yavits},
  journal= {arXiv preprint arXiv:2603.18676},
  year   = {2026}
}