Prospector Heads：大型模型与数据的广义特征归因

特征归因即定位输入数据中与分类相关的区域的能力，是科学和生物医学领域机器学习模型的一项重要能力。当前的特征归因方法依赖于“解释”端到端分类器的预测，存在特征定位不精确的问题，且由于计算挑战，不适用于小样本量和高维数据集。我们引入了 Prospector Heads，这是一种高效且可解释的替代方案，可应用于任何编码器和任何数据模态，以替代基于解释的归因方法。Prospector Heads 通过对序列（文本）、图像（病理学）和图（蛋白质结构）的实验实现了跨模态泛化，在平均定位 AUPRC 方面比基线归因方法高出多达 26.3 个点。我们还展示了 Prospector Heads 如何实现对输入数据中类特定模式的改进解释和发现。凭借其高性能、灵活性和泛化能力，Prospectors 为改善复杂领域中机器学习模型的信任度和透明度提供了一个框架。