符号作为弥合人类与 AI 鸿沟的通用语言以实现可解释与可建议的 AI 系统
人工智能
2021-12-13 v2
摘要
尽管许多现代 AI 系统常学习自身表征并展现出惊人能力，但人们对其不可解释性以及在与人交互能力上的相关问题存在显著不满。虽然已提出如神经符号方法等替代方案，但对于其具体内涵尚缺乏共识。通常存在两种独立的动机：(i) 符号作为人机交互的通用语言；(ii) 符号作为 AI 系统内部推理中产生的抽象。关于 AI 系统是否需要在其内部推理中使用符号以实现通用智能能力，目前仍无定论。无论答案是什么，人机交互中对（人类可理解的）符号的需求似乎都颇为迫切。符号如同情感，本身或许并非智能的必需条件，但它们对于 AI 系统与我们人类交互至关重要——因为我们既无法关闭情感，也离不开符号。特别是在许多人类设计的领域中，人类会有兴趣提供显式（符号）知识与建议，并期望机器给出同类的解释。仅此一点就要求 AI 系统维持一个用于人机交互的符号接口。在这篇蓝天空论文中，我们论证该观点，并探讨为实现此类人机交互所需推进的研究方向。
引用
@article{arxiv.2109.09904,
title = {Symbols as a Lingua Franca for Bridging Human-AI Chasm for Explainable and Advisable AI Systems},
author = {Subbarao Kambhampati and Sarath Sreedharan and Mudit Verma and Yantian Zha and Lin Guan},
journal= {arXiv preprint arXiv:2109.09904},
year = {2021}
}