AI 临界点与幻觉的多自旋物理
人工智能
2025-08-05 v1 适应与自组织系统
计算物理
摘要
生成式 AI 如 ChatGPT 的输出可能存在重复和偏差。但更令人担忧的是，这些输出在响应过程中会在用户未察觉的情况下，从良好（正确）急剧转变为恶劣（误导或错误），导致 2024 年alone 造成 670 亿美元损失和数条人命。我们建立了将其映射到多自旋热力学系统的数学模型，揭示了 AI '原子'（基本注意力头）尺度上的隐藏临界不稳定性。我们推导了一个简单且几乎精确的临界点公式，直接显示用户提示选择和 AI 训练偏差的影响。我们进一步表明，输出临界可被 AI 多层架构放大。除帮助改善 AI 的透明度、可解释性和性能外，我们的结果还为量化用户的 AI 风险和法律责任开辟了路径。
引用
@article{arxiv.2508.01097,
title = {Multispin Physics of AI Tipping Points and Hallucinations},
author = {Neil F. Johnson and Frank Yingjie Huo},
journal= {arXiv preprint arXiv:2508.01097},
year = {2025}
}