基于图注意力机制和Transformer的异常检测
Abnormal Detection Based on Graph Attention Mechanisms and Transformer作者机构:国网山东省电力公司信息通信公司山东济南250013 山东大学软件学院山东济南250101
出 版 物:《电子学报》 (Acta Electronica Sinica)
年 卷 期:2022年第50卷第4期
页 面:900-908页
核心收录:
学科分类:08[工学] 081203[工学-计算机应用技术] 0812[工学-计算机科学与技术(可授工学、理学学位)]
基 金:国网山东省电力公司科技项目(No.2020A-135)。
主 题:异常检测 异构信息网络 相似性学习 图注意力网络 Transformer
摘 要:异常检测对电力行业的发展有着重要的影响,如何根据大规模电力数据进行异常检测是重要的研究热点.目前,大多数研究通过聚类或神经网络进行异常检测.但是这些方法忽略了时序数据之间潜在的关联关系及某些特点的重要信息,没有充分挖掘出数据的潜在价值.因此,提出了一种基于图注意力和Transformer的异常检测模型.该模型首先根据数据中台中获取的电力数据(主要包括用户ID、电能表ID、用户类型、电流、电压、功率等数据)构建一个异构信息网络;然后,为了减少模型参数和避免出现过拟合的现象,在图卷积网络(Graph Convolutional Network,GCN)模型的基础上,引入非负矩阵分解(Non-Negative Matrix Factorization,NNMF)的方法来进行相似性学习;最后采用图注意力网络(Graph Attention Network,GAT)和Transformer共同捕获数据间的相互关联关系,从而提高检测精度.以中国某地区的电力数据为基础进行验证,实验结果表明所提出的方法可以有效进行异常检测.