中文

面向多尺度动力学制程的冲突感知和谐化旋转梯度

机器学习 2026-04-28 v1

摘要

本文提出了一种称为 HRGrad 的和谐化旋转梯度方法,用于同时处理具有不同小参数的多尺度时变动力学问题。这些参数 exhibit 从微观到宏观物理的渐进过渡,使得在所有尺度范围内同时求解成为一个具有挑战性的多任务问题。不同渐进区域的求解任务常常遇到梯度冲突,这可能导致多任务学习的失败。为解决这一挑战,我们显式编码这些参数的隐藏表示,确保相应求解任务在同时训练时被序列化。此外,为缓解梯度冲突,我们对预测结果进行分段,以构建任务损失,并引入一种新颖的梯度对齐度量,以确保最终更新与每个特定损失梯度之间具有正的点积。该度量保持所有任务损失的一致优化速率,并根据冲突程度动态调整梯度大小。此外,我们提供了 HRGrad 方法收敛的数学证明,该方法在各种具有挑战性的保持渐进-preserving 神经网络 (APNN) 场景中进行了评估。我们进行了一系列广泛的实验,包括在所有 Knudsen 数范围内的 Bhatnagar-Gross-Krook (BGK) 方程和线性输运方程。我们的结果表明,HRGrad 有效克服了这些问题中 APNN 的“故障模式”。

关键词

引用

@article{arxiv.2604.24745,
  title  = {Conflict-Aware Harmonized Rotational Gradient for Multiscale Kinetic Regimes},
  author = {Zhangyong Liang},
  journal= {arXiv preprint arXiv:2604.24745},
  year   = {2026}
}