可靠 AI 需要外部化隐式知识：人类-AI 协作视角
人工智能
2026-05-26 v2
摘要
本立场论文论证，可靠的 AI 需要人类验证隐式知识的基础设施。AI 学习的内容包括显式知识（论文、文档、结构化数据库）和隐式知识（推理模式、调试过程、中间步骤）。隐式知识由于文档成本超过感知价值而未被外部化——但 AI 会不加区分地从中学习，既获取有益模式，也获取有害偏见。当前可靠性方法仅能对显式知识进行来源验证，存在根本性鸿沟：最有价值的 AI 能力（推理、判断、直觉）恰恰是我们无法验证的能力。我们提出知识对象（Knowledge Objects, KOs）——结构化制品，将隐式知识外部化为人类可检验、验证和确认的形式。知识对象改变了验证的经济学：原本因成本过高而无法验证的事物，如今可行，使人类累积的验证能够随时间改善可靠性。
引用
@article{arxiv.2605.02010,
title = {Reliable AI Needs to Externalize Implicit Knowledge: A Human-AI Collaboration Perspective},
author = {Hengyu Liu and Tianyi Li and Zhihong Cui and Yushuai Li and Zhangkai Wu and Torben Bach Pedersen and Kristian Torp and Christian S. Jensen},
journal= {arXiv preprint arXiv:2605.02010},
year = {2026}
}
备注
Accepted at ICML 2026 (Position Paper Track). 14 pages, 2 figures, 1 table