面向制造环境中数据高效学习与可信人机协作的灵活且固有可理解知识表示

人工智能体的可信度对于工业制造环境中人机协作的接受至关重要。可预测的行为与可解释（且可理解）的推理依据使与之协作（并构建）这些智能体的人类能够理解其动机，从而验证所做出的决策。为此，我们利用 Gärdenfors 受认知启发的概念空间框架，以固有可理解的质量维度所张成空间中的凸区域作为概念来表示智能体的知识。在其上构建一个简单的典型性量化模型，以确定模糊类别隶属度并可解释地分类实例。我们将其应用于制造领域的一个用例，使用从协作机器人（cobots）机载传感器获取的物体物理属性，以及来自公共知识库众包常识知识的利用属性。这种基于属性分解的灵活知识表示允许对通常高度专业或特定的制造工件进行数据高效表示学习。在此类设定下，传统数据驱动（例如基于计算机视觉）的分类方法会因训练数据稀缺而陷入困境。这使得人类协作者能理解 AI 智能体习得的知识，从而有助于可信度。我们将我们的方法置于一个指定解释需求的现有可解释性框架中。我们为我们的系统在设计、验证与操作全过程中与 AI 系统协作的不同人类角色下的适用性与恰当性提供论证。