大型语言模型使用的实践审计框架：集体经验主义、伪理性认知和AI生成内容的治理

大型语言模型越来越多地用于知识获取、代码生成、学术写作和基于智能体的自动化。在这些场景中，用户可能在缺乏足够领域实践的情况下获得高度结构化的答案、计划和判断。本文提出了一个用于LLM使用和AI生成内容治理的实践审计框架。它引入了集体经验主义来描述LLM如何将大规模人类经验压缩和重组为看似经验性和理性的输出，以及伪理性认知来描述用户如何将AI生成的结构化表达误认为自己的理性理解。本文分析了AI主观性幻觉、输入材料中的主观性结构、AI-AI对话中的模板循环、AIGC检测中的统计误判，以及当生成内容进入未来上下文、长期记忆、检索空间或智能体技能系统时的记忆污染。为降低这些风险，本文提出了一个基于需求定义、问题边界识别、证据来源审计、实践验证、反向提问、日志记录、版本管理、回滚和更新认知的审计过程。该框架并不拒绝AI生产力；它主张LLM输出应回归到可验证、可复现和可干预的实践过程。本文为LLM交互中的认知风险、AI生成内容治理、长期记忆系统和人类-AI交互提供了一个概念性和可审计的框架。