“为何‘芝加哥’具有欺骗性？”——迈向面向人类的模型驱动教程构建

为支持人类借助机器学习模型进行决策，我们常需阐明模型中那些对人类而言不显著、未知或反直觉的模式。现有方法侧重于通过实时辅助解释机器预测，而我们探索模型驱动教程以在训练阶段帮助人类理解这些模式。我们考虑两类教程：源自科学论文指南的教程（类似于当前科学传播的实践），以及从训练数据中自动筛选并附解释的示例。我们以欺骗性评论检测为试验场景，开展大规模随机人类受试者实验以检验此类教程的有效性。我们发现，无论有无实时辅助，教程均能提升人类表现。特别地，尽管深度学习比简单模型具有更优的预测性能，但来自简单模型的教程与解释对人类更有用。我们的工作为以人类为中心的教程与解释、迈向人与 AI 协同的未来方向提供了启示。