Kandinsky 模式

Kandinsky 图形（Kandinsky Figures）与 Kandinsky 模式（Kandinsky Patterns）是可数学描述、简单自包含因而可控的人工智能可解释性开发、验证与训练测试数据集。尽管 Kandinsky 模式具有这些计算上可处理的特性，它们同时又能被人类观察者轻易区分。因此，受控模式既可由人类也可由计算机描述。我们将 Kandinsky 模式定义为一组 Kandinsky 图形，其中每个图形由一位“绝对权威”定义其属于该 Kandinsky 模式。基于这一简单原则，我们构建用于自动可解释性与上下文学习的训练和验证数据集。本文描述 Kandinsky 模式的基本思想与若干基础原理，并提供 GitHub 仓库，邀请国际机器学习研究界以挑战形式使用我们的 Kandinsky 模式进行实验，从而拓展并推动可解释 AI（explainable AI）领域的进展，并为新兴的可解释性与可归因性（causability）领域做出贡献。