无监督学习中的“聪明汉斯”效应

无监督学习已成为人工智能系统的基本组成部分。它所产生的表征，例如在基础模型中，对各种各样的下游应用至关重要。因此，仔细审视无监督模型不仅是为了确保它们产生准确的预测，还要确保这些预测不是“因错误的原因而正确”，即所谓的“聪明汉斯”（Clever Hans, CH）效应。通过使用专门开发的可解释人工智能技术，我们首次展示了CH效应在无监督学习中普遍存在。理论洞见丰富了我们的实证发现，有趣的是，这些洞见指出无监督学习机器中的归纳偏置是CH效应的一个主要来源。总体而言，我们的工作揭示了与无监督学习实际应用相关的未被探索的风险，并提出了使无监督学习更稳健的方法。