面向多视图多标签特征选择的冗余优化多头注意力网络

多视图多标签数据提供了更丰富的人工智能视角，但同时也带来了特征、视图和标签之间复杂关系的特征选择挑战。注意力机制为分析这些复杂关系提供了有效方法。它们可以通过聚合查询矩阵和键矩阵之间的相关性来计算信息重要性权重，从而聚焦于 pertinent values。然而，现有注意力驱动的特征选择方法主要关注视图内的关系，忽略了视图间特征的互补性以及关键特征-标签相关性。此外，这些方法往往未能考虑特征冗余，可能导致子集 suboptimal。为克服这些限制，我们提出一种新方法：基于冗余优化的多头注意力网络用于多视图多标签特征选择（RMAN-MMFS）。具体而言，我们利用每个注意力头单独建模视图内特征关系，并使用不同注意力头之间的交叉注意力机制捕获视图间特征的互补性。进一步，我们设计了静态和动态特征冗余项：静态项缓解每个视图内的冗余，而动态项显式建模未选中取特征与选中取特征之间的冗余，从而促进特征的紧凑性。在对六个真实数据集上进行的全面评估表明，与六种多视图多标签特征选择方法相比，我们提出的方法表现出优越性能。