基于多变量时空反转Transformer的边缘负载预测方法

作     者：江庆南 许浩然 陈哲毅 于正欣 苗旺 

作者机构：福州大学计算机与大数据学院 大数据智能教育部工程研究中心 福建省网络计算与智能信息处理重点实验室(福州大学) 兰卡斯特大学计算与通信学院 埃克塞特大学计算机科学系 

出 版 物：《小型微型计算机系统》 (Journal of Chinese Computer Systems)

年 卷 期：2024年

学科分类：080904[工学-电磁场与微波技术] 0810[工学-信息与通信工程] 12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 0809[工学-电子科学与技术（可授工学、理学学位）] 08[工学] 080402[工学-测试计量技术及仪器] 0804[工学-仪器科学与技术] 081001[工学-通信与信息系统] 081201[工学-计算机系统结构] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金项目(62202103)资助 中央引导地方科技发展资金项目(2022L3004)资助 福建省科技经济融合服务平台项目(2023XRH001)资助 福厦泉国家自主创新示范区协同创新平台项目(2022FX5)资助 

主　　题：边缘计算 负载预测 特征提取 时空信息 自注意力机制 

摘      要：作为边缘系统中的一项关键技术，负载预测直接影响着资源分配和系统性能。传统的负载预测方法在面对具有明显趋势或规律的负载时可获得令人满意的预测效果。然而，鉴于边缘环境的高动态性以及多维数据的高度复杂性，传统方法往往难以取得精确高效的负载预测。同时，时空信息的引入对边缘负载预测所能带来的潜在价值也尚未得到充分研究。针对这些问题，本文提出了一种新型的基于多变量时空反转Transformer的边缘负载预测方法（Multi-variable Spatio-Temporal Inverted Transformer，MSTIT）。所提出的MSTIT方法设计了一种静态内容感知层用于提取边缘负载时序数据的多维变量特征，并提出一种可学习的位置嵌入提取边缘节点位置的全局信息并以此捕获时序数据中的空间特征。接着，通过引入序列反转从而更好地利用Transformer的自注意力机制来关联多个变量与融合时空信息。因此，MSTIT 方法能够高效地提取边缘负载的关键特征，并充分利用时空信息，从而实现对多维、高动态边缘负载的准确高效预测。基于真实的边缘负载数据集，通过大量的实验验证和分析，证明了所提出的 MSTIT 方法的有效性。实验结果表明，与其他基准方法相比，MSTIT 方法具有更高的预测精度，并且在不同的预测场景下均表现出优异的性能。