基于双自编码器和Transformer网络的异常检测方法

作     者：周佳航 邢红杰 ZHOU Jiahang;XING Hongjie

作者机构：河北大学数学与信息科学学院河北保定071002 河北省机器学习与计算智能重点实验室(河北大学)河北保定071002 

出 版 物：《计算机应用》 (journal of Computer Applications)

年 卷 期：2023年第43卷第1期

页      面：22-29页

学科分类：1305[艺术学-设计学（可授艺术学、工学学位）] 13[艺术学] 081104[工学-模式识别与智能系统] 08[工学] 0804[工学-仪器科学与技术] 081101[工学-控制理论与控制工程] 0811[工学-控制科学与工程] 

基　　金：国家自然科学基金资助项目(61672205) 河北省自然科学基金资助项目(F2017201020) 

主　　题：异常检测 自编码器 重构误差 单类分类 Transformer网络 

摘      要：基于自编码器(AE)的异常检测方法利用重构误差判断待测样本是正常数据还是异常数据。然而,上述方法在正常数据与异常数据上产生的重构误差非常接近,导致部分异常数据很容易被错分为正常数据。为解决上述问题,提出一种由两个并行的AE和一个Transformer网络组成的异常检测方法——DATN-ND。首先,Transformer网络利用输入样本的瓶颈特征生成伪异常数据的瓶颈特征,从而在训练集中增加异常数据信息;其次,双AE将带有异常数据信息的瓶颈特征尽可能地重构为正常数据,增加异常数据与正常数据的重构误差差别。与记忆增强自编码器(MemAE)相比,DATN-ND在MNIST、Fashion-MNIST、CIFAR-10数据集上ROC曲线下面积(AUC)分别提升6.8、12.0和2.5个百分点。实验结果表明,DATN-ND能够有效扩大正常数据和异常数据在重构误差上的差别。