竞争注意力预测 AI 中的好坏转折
人工智能
2026-02-24 v2 应用物理
物理与社会
摘要
全球超过半数人口携带可无需网络连接即可运行类 ChatGPT 语言模型的设备，且缺乏安全监控——这可能导致自伤、财务损失及极端主义等风险。现有安全工具要么需云端连接，要么仅在事后发现失效。我们指出，广大潜在危险转折源于 edge AI 原子尺度的注意力竞争。这产生一种数学公式，描述动态转折点 ，由对话语境与竞争输出 basin 之间的点积竞争决定，揭示了新的控制杠杆。该机制经多种 AI 模型验证，可适用于不同“好”与“坏”定义，从而原则上适用于健康、法律、金融、国防等多个领域，影响不同法律环境（如欧盟、英国、美国及各州）、语言及文化背景。
引用
@article{arxiv.2602.14370,
title = {Competition for attention predicts good-to-bad tipping in AI},
author = {Neil F. Johnson and Frank Y. Huo},
journal= {arXiv preprint arXiv:2602.14370},
year = {2026}
}