人工智能的真正火花与内部可解释性的重要性

本文审视了微软工程师对GPT智能进行的最详尽研究之一。尽管他们的工作很有价值，但我将论证，出于熟悉的哲学原因，他们的“黑箱可解释性”方法论是错误的。但还有更好的方法。存在一个令人兴奋的新兴学科“内部可解释性”（特别是机制可解释性），旨在揭示模型的内部激活和权重，以理解它们所表示的内容和实现的算法。在我看来，黑箱可解释性的一个关键错误是没有认识到过程的执行方式对于智能和理解至关重要。我不能假装有一个完整的故事来提供智能的必要和充分条件，但我确实认为内部可解释性与关于智能要求的合理哲学观点相吻合。因此结论是适度的，但在我看来，重要的是看到如何使研究走上正轨。在论文结尾，我将展示如何使用一些哲学概念来进一步细化内部可解释性的方法，因此本文有助于促进哲学家和计算机科学家之间富有成效的未来双向交流。