幻觉、可靠性及生成式AI在科学中的作用

生成式AI越来越多地支持科学推理，从蛋白质结构预测到天气预报。然而，其独特的失败模式——幻觉——引发了认识论上的警示。我认为，这种失败模式可以通过从以数据为中心转向以现象为中心的评估来解决。通过AlphaFold和GenCast的案例研究，我展示了科学工作流如何通过理论引导训练和基于置信度的错误筛选来约束生成模型。这些策略将幻觉从不可管理的认识论威胁转化为有界风险。当嵌入此类工作流时，生成式模型能够在理论成熟的领域内支持可靠的推理，尽管存在不透明性。