概念激活向量的可变性
机器学习
2025-09-30 v1 机器学习
摘要
人工智能的一个迫在眉睫的挑战是使模型更透明。最近，解释人工智能涌现出诸多方法来解决这一挑战。一个有前景的途径是使用概念导向的解释，即使用高层次概念而非纯粹的特征重要性得分。在此类方法中，概念激活向量(CAVs) [Kim 等, 2018] 是主要参与者之一。CAVs 一个有趣的方面是其计算需要对训练集中的随机样本进行采样。因此，depending on 随机性，实际获得的向量可能因用户而异。在本文中，我们对 CAVs 构建进行细粒度的理论分析，以量化其可变性。我们的結果，通过实验验证多个真实数据集，指向一种通用结果：CAVs 的方差随 的倒数衰减，其中 为随机样本的数量。基于此，我们给出针对资源效率应用的实用建议。
引用
@article{arxiv.2509.24058,
title = {On The Variability of Concept Activation Vectors},
author = {Julia Wenkmann and Damien Garreau},
journal= {arXiv preprint arXiv:2509.24058},
year = {2025}
}
备注
26 pages (including appendix), 24 figures (44 panels). Submitted to AAAI-26