人类生态位中的因果性：为机器学习提供的启示

人类以因果关系解释身边的世界，并以因果术语与他人交流其对世界的理解。这些因果认知方面被认为支撑着人类在新领域中高效泛化和学习的能力，而当前机器学习系统在这方面表现薄弱。将人类类似的因果能力导入机器学习系统可能有助于构建有效且可解释的 AI。事实上，机器学习社区一直在导入由结构性因果模型（SCM）框架形式化的因果思想，后者为许多因果方面提供严格的语言并推动了重大进展。然而，SCM 框架未能捕捉人类因果认知的某些显著特征，也未在机器学习中某些关键领域带来进展。我们认为，“人类生态位中的因果性”——即在人类居住的社会、自主且目标导向的智能体感知与行动的环境——与 SCM 所捕捉的因果性质不同。例如，日常物品以相似类型出现，具有相似的因果属性，人类因此能够通过类比一种类型物品（如杯子）的知识推广到另一种相关类型（如碗子），但此类类比在 SCM 中最多只能笨拙地表达。我们探讨了此类因果能力为何在人类生态位中是适应性的。通过更好地理解人类因果认知的特性，特别是这些特性在人类居住的生态位中的适应性，我们希望未来在机器学习与因果性交叉领域的工作能更好地利用人类类似的归纳偏置，以创建更具能力、可控且可解释的系统。