TRKM：基于双限制性核机器的分类与回归模型

限制性核机器（RKM）在机器学习中显著提升了泛化能力。近期的进展探索了RKM框架内的各种技术，将核函数与最小二乘支持向量机（LSSVM）集成，以镜像受限玻尔兹曼机（RBM）的能量函数，导致性能提升。然而，RKM在处理分布不均或复杂聚类数据时可能面临泛化挑战。此外，随着数据集大小的增加，管理高维特征空间的计算负担会变得相当大，可能阻碍大规模数据集的性能。为了解决这些挑战，我们提出了 twin 限制性核机器（TRKM）。TRKM将 twin 模型的优势与 RKM 框架的鲁棒性结合起来，用于增强分类和回归任务。通过利用Fenchel-Young不等式，我们引入了一种新的共轭特征二义性，允许以双变量的形式来表述分类和回归问题。这种二义性为TRKM问题的目标函数提供了一个上界， resulting in a new methodology under the RKM framework. 该模型使用类似于RBM的能量函数，包含对应两个类别的 visible 和 hidden 变量。此外，采用核技巧将数据映射到高维特征空间，在该空间中，模型使用正则化最小二乘方法识别最优分离超平面。在UCI和KEEL数据集上的实验确认了TRKM在基准方法上的优势，展示了其在处理复杂数据方面的鲁棒性和效率。此外，我们在脑年龄数据集上实现了TRKM模型，证明了其在预测脑年龄方面的有效性。