你看到的就是我看到的吗？揭示可解释 AI 局限性的歧义视错觉数据集

从不确定性量化到现实世界目标检测，我们认识到机器学习算法的重要性，尤其是在自动驾驶或医疗诊断等安全关键领域。在机器学习中，歧义数据在各个机器学习领域都扮演着重要角色。视错觉在此背景下提供了一个引人入胜的研究领域，因为它们为了解人类和机器感知的局限性提供了洞察。尽管具有相关性，视错觉数据集仍然稀缺。在这项工作中，我们引入了一个新颖的视错觉数据集，其特征是交织的动物对，旨在引发感知歧义。我们识别出可泛化的视觉概念，特别是注视方向和眼部线索，作为显著影响模型准确性的微妙而重要的特征。通过让模型面对感知歧义，我们的发现强调了概念在视觉学习中的重要性，并为研究人类视觉与机器视觉之间的偏差与对齐奠定了基础。为了使该数据集能够用于通用目的，我们在偏差缓解部分讨论了不同的概念，并系统地生成了视错觉。该数据集可通过 Kaggle 访问：https://kaggle.com/datasets/693bf7c6dd2cb45c8a863f9177350c8f9849a9508e9d50526e2ffcc5559a8333。我们的源代码可在 https://github.com/KDD-OpenSource/Ambivision.git 找到。