想象与构建智慧机器:AI元认知的核心地位

尽管人工智能已变得越来越智能,但其智慧水平尚未跟上。在本文中,我们审视了关于人类智慧的已知认知,并勾勒了其人工智能对应物的愿景。我们将人类智慧分析为一组解决不可解问题的策略——即超出解析技术范围的问题——包括对象层面的策略(如用于管理问题的启发式方法)和元认知层面的策略(如知识谦逊、换位思考或上下文适应性,用于管理对象层面的策略)。我们论证了人工智能系统在元认知方面尤其存在困难;元认知的改善将使人工智能系统更能适应新环境、对用户更可解释、与他者更协作,并在减少与人类用户目标不一致的风险方面更安全。我们讨论了如何对智慧人工智能进行基准测试、训练和实现。