AI 海洋学：通过专家监督模式实现可解释人工智能

AI 海洋学是一个通过将 population-level surveillance 方法应用于 AI 输出来治理和解释高级 AI 系统的框架。这一方法类似于流行病学家通过统计证据在分子机制被理解之前，实现公共卫生干预的方式。这绕过了当前可解释性方法（如 SHAP 和机制可解释性）在部署规模模型时的复杂性问题。AI 海洋学通过标准化捕获 AI-专家交互到结构化评估字段中来实现 population-level 监视：风险等级、对齐评分和准确率评分。这些功能作为暴露变量，通过统计关联性预测输出失败，就像胆固醇和血压作为暴露变量预测心血管事件一样。随后，输出失败关联性将被验证到专家覆盖和真实世界结果上。该框架对专家不施加负担，提供自动审计轨迹，通过被动跟踪专家与 AI 建议的收敛和发散。由于它分析的是输出而非内部模型计算，因此在机构更新模型和切换供应商时也能提供治理连续性。最后，通过提供可靠性评分和语义评估（例如：“此建议类似 500 例因指南违规被专家覆盖的案例”），使专家和机构能够在造成伤害前检测不可靠的 AI 输出。这实现了 AI 监督的民主化，使领域专家能够在不需机器学习专业知识的情况下治理 AI 系统。