特权自访问对 AI 内省的重要性
人工智能
2025-08-21 v1 计算与语言
摘要
AI 模型能否进行内省是一个日益重要的实际问题。但目前对于如何定义内省尚无共识。从近期提出的一种“轻量级”定义出发，我们主张采用一种更厚重的定义。根据我们的提议，AI 中的内省是指任何通过比第三方可用的同等或更低计算成本的过程更可靠的过程，获取关于其内部状态信息的过程。利用 LLM 推理其内部温度参数的实验，我们表明它们似乎具有轻量级内省，但根据我们提出的定义，它们未能实现有意义的内省。
引用
@article{arxiv.2508.14802,
title = {Privileged Self-Access Matters for Introspection in AI},
author = {Siyuan Song and Harvey Lederman and Jennifer Hu and Kyle Mahowald},
journal= {arXiv preprint arXiv:2508.14802},
year = {2025}
}