一种用于大语言模型辅助因果模型审计与开发的可解释人工智能方法
人工智能
2023-12-29 v1 人机交互
机器学习
摘要
因果网络广泛应用于流行病学、社会科学、医学和工程等多个领域，用于模拟变量之间的复杂关系。虽然直接从观测数据中算法推断这些模型可能很方便，但生成的网络往往充斥着错误的边。审计和修正这些网络可能需要分析师通常不具备的领域专业知识。我们提出使用 ChatGPT 等大语言模型作为因果网络的审计员。我们的方法一次向 ChatGPT 呈现因果网络中的一条边，以产生关于边方向性、可能的混杂因素和中介变量的见解。我们要求 ChatGPT 反思每个因果链接的各个方面，然后生成可视化结果来总结这些观点，供人类分析师指导边的方向、收集更多数据或测试进一步的假设。我们设想了一个系统，其中大语言模型、自动化因果推断以及人类分析师和领域专家携手合作，为任何给定案例推导全面和综合的因果模型。本文展示了使用新兴原型获得的首批结果。
引用
@article{arxiv.2312.16211,
title = {An Explainable AI Approach to Large Language Model Assisted Causal Model Auditing and Development},
author = {Yanming Zhang and Brette Fitzgibbon and Dino Garofolo and Akshith Kota and Eric Papenhausen and Klaus Mueller},
journal= {arXiv preprint arXiv:2312.16211},
year = {2023}
}