基基于注意力绞杀的门控循环单元网络及其工业软测量应用

作     者：隋璘 马君霞 熊伟丽 

作者机构：江南大学物联网工程学院 江南大学轻工过程先进控制教育部重点实验室 

出 版 物：《控制理论与应用》 (Control Theory & Applications)

年 卷 期：2024年

核心收录：

学科分类：0810[工学-信息与通信工程] 12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 08[工学] 081104[工学-模式识别与智能系统] 080401[工学-精密仪器及机械] 0804[工学-仪器科学与技术] 080402[工学-测试计量技术及仪器] 0835[工学-软件工程] 081002[工学-信号与信息处理] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金项目(61773182) 国家重点研发计划子课题(2018YFC1603705-03) 江苏省研究生科研实践创新计划(KYCX23 2447)资助 

主　　题：软测量 门控循环单元 注意力机制 非负绞杀 变量选择 稀疏优化 

摘      要：复杂工业过程非线性、动态性及变量冗余会导致建模难度增加与模型性能降低,因此提出一种基于注意力机制与非负绞杀（Nonnegative garrote, NNG）估计的门控循环单元（Gated recurrent unit, GRU）网络,并应用于实际工业过程软测量建模.首先将时序注意力引入GRU网络,根据不同时刻隐含层间的时序相关性,自适应分配注意力权重,提高模型时序特征表征能力;其次设计了一种针对过程变量的注意力权重向量,并嵌入NNG算法约束,以实现其系数的近似无偏估计;进一步采用带变量注意力的NNG算法对GRU网络进行稀疏优化,降低模型复杂度,提高其可解释性并防止过拟合,通过数值仿真验证了算法的有效性和优越性;最后将算法应用于某燃煤电厂烟气脱硫过程排放净烟气SO2浓度的软测量,实验结果表明所提算法具有优于其它先进对比算法的性能，能够在有效剔除冗余变量并简化模型结构的同时提高其预测性能.