时间依赖性混凝土蠕变预测的三重注意力Transformer架构
机器学习
2025-06-06 v1 人工智能
摘要
本文提出了一种新颖的三重注意力Transformer架构，用于预测时间依赖性混凝土蠕变，解决了当前方法将时间仅视为输入参数而非模拟变形发展的序列性质的根本局限。通过将混凝土蠕变预测转化为类似于语言处理的自回归序列建模任务，该架构利用Transformer的自注意力机制来捕捉历史蠕变模式中的长期依赖关系。该模型实现了一个三流注意力框架，包含用于序列进展的时间注意力、用于材料属性交互的特征注意力以及用于样本间关系的批次注意力。在涵盖160天的标准化日测量实验数据集上进行评估，该架构取得了卓越的性能，所有数据集上的平均绝对百分比误差为1.63%，R2值为0.999，显著优于传统经验模型和现有机器学习方法。消融研究证实了注意力机制的关键作用，其中注意力池化对模型性能贡献最大。SHAP分析揭示杨氏模量是主要预测特征，其次是密度和抗压强度，为工程应用提供了必要的可解释性。已部署的基于Web的界面促进了实际实现，使使用标准实验室参数进行实时预测成为可能。本工作确立了将Transformer架构应用于材料科学问题的可行性，展示了数据驱动方法在革新结构行为预测和工程设计实践方面的潜力。
引用
@article{arxiv.2506.04243,
title = {Triple Attention Transformer Architecture for Time-Dependent Concrete Creep Prediction},
author = {Warayut Dokduea and Weerachart Tangchirapat and Sompote Youwai},
journal= {arXiv preprint arXiv:2506.04243},
year = {2025}
}