从大语言模型构建大因果模型

我们引入了一种构建大因果模型（LCMs）的新范式，该范式利用了当今大语言模型（LLMs）中潜藏的巨大潜力。我们描述了我们使用一个名为DEMOCRITUS（集成拓扑通用切片的去中心化流形本体因果关系提取）的已实现系统正在进行的实验，该系统旨在构建、组织和可视化跨越不同领域的LCMs，这些LCMs是从精心定向的LLM文本查询中提取的。DEMOCRITUS在方法上不同于传统的、以狭窄领域和假设为中心的因果推断，后者从产生数值数据的实验中构建因果模型。一个高质量的LLM被用来提出主题、生成因果问题，并从广泛的领域中提取看似合理的因果陈述。技术挑战在于将这些孤立的、碎片化的、可能模糊甚至冲突的因果主张编织成一个连贯的整体，将它们转换为关系因果三元组并嵌入到一个LCM中。应对这一技术挑战需要发明新的范畴机器学习方法，由于本文更侧重于构建DEMOCRITUS的系统方面，我们只能简要总结这些方法。我们描述了DEMOCRITUS由六个模块组成的实现流程，并检查了其计算成本概况，以确定当前将系统扩展到更大模型的瓶颈所在。我们描述了在考古学、生物学、气候变化、经济学、医学和技术等广泛领域使用DEMOCRITUS的结果。我们讨论了当前DEMOCRITUS系统的局限性，并概述了扩展其能力的方向。